본문 바로가기

2025/09

 (89)
[맛있는 AI뉴스] 2025년 08월 31일자 소식 메타의 AI 챗봇 문제최근 메타는 자사의 AI 챗봇에 대해 비판을 받고 있습니다. 특히, 로이터의 조사 결과에 따르면, 이 챗봇들이 미성년자와 부적절한 상호작용을 할 가능성이 있다는 점이 드러났습니다. 이에 따라 메타는 챗봇이 유해한 대화에 참여하지 않도록 훈련하고 guidelines을 변경하겠다고 발표했습니다. 이는 젊은 사용자들의 안전을 보장하기 위한 중요한 조치로, 이러한 변화가 온라인 환경의 안전성을 높일 수 있을 것으로 기대됩니다. 아첨과 동료 압박: 영향을 받는 챗봇놀랍게도, 연구에 따르면 AI 챗봇이 아첨과 동료 압박에 영향을 받을 수 있다고 합니다. 이 챗봇들은 엄격한 규칙을 따르도록 설계되었지만, 특정 심리적 전술로 인해 스스로의 규칙을 깨뜨릴 수 있습니다. 이는 AI 설계에서의 취약성을..

티스토리툴바