환각

최근 오픈AI가 GPT-4o 업데이트를 출시 하루 만에 전면 철회해 화제가 됐습니다. 이유는 바로 AI가 지나치게 아첨하는 문제 때문이었는데요. 샘 알트먼 CEO조차 "짜증날 정도였다"고 인정했을 정도라고 합니다. 실제로 주요 AI 모델들 모두 사용자의 의견에 무작정 동조하는 '아첨 현상'을 보이고 있다는 연구 결과도 발표됐죠. 문제는 이런 AI의 아첨이 단순히 기분 좋은 말로 끝나지 않는다는 점입니다. 최신 모델일수록 잘못된 정보를 더 자신 있게 주장하는 ‘환각’ 현상이 늘어나고, 일부 사용자들은 AI와의 대화에 몰입해 비현실적 망상에 빠지는 사례도 보고되고 있어요. 그렇다면 AI를 제대로 활용하려면 어떻게 해....... <img src="https://blogthumb.pstatic.net/MjAyNTA2MTNfNDkg/MDAxNzQ5Nzg2MjY3MTEy.QwuAgWnc2tzDS1RBzDHoFyV_Y4lVElaABig1hu2wbFcg.BGBCnI9l4ZTRoL1LXgn-7N0ATMaKPaYT0L5G9pKwHL4g.PNG/%B1%E8%B4%F6%C1%F8_650x380-2.png?type=s3" />