AI 환각이란? AI hallucination

AI 환각이란 무엇인가요

AI 환각은 영어로 AI hallucination이라고 합니다. 여기서 hallucination은 원래 환각이나 착각이라는 뜻인데, 인공지능 분야에서는 사실이 아닌 정보를 AI가 진짜처럼 말하는 현상을 의미합니다.

예를 들어 인공지능에게 세종대왕의 생일을 물었는데 "10월 15일"이라고 대답한다고 해도 실제 생일은 5월 15일입니다. 이런 식으로 틀린 정보를 자신 있게 말하는 것이 바로 AI 환각입니다.

또는 존재하지 않는 책 제목이나 논문을 말할 때도 있습니다. 사용자는 AI가 정답처럼 말하니까 믿기 쉬운데, 실제로는 그런 정보가 세상에 존재하지 않을 수 있습니다.

AI는 사람처럼 사실을 이해하거나 기억하지 않고, 확률적으로 그럴듯한 문장을 예측하는 방식으로 작동합니다. 영어로는 이를 next-token prediction이라고 합니다. 다음에 올 단어나 문장을 추측하는 것이죠.

이렇다 보니, 정확한 정보가 없거나 질문이 애매하면 비슷한 단어들을 조합해서 거짓된 정보를 그럴듯하게 만들어내는 경우가 생깁니다. 예를 들어 존재하지 않는 논문의 제목이나 저자를 만들어내는 일이 실제로 자주 있습니다.

AI는 말의 흐름을 자연스럽게 만드는 데는 뛰어나지만, 진짜인지 아닌지를 판단하는 능력은 아직 부족합니다.

AI에게 어떤 배우의 수상 경력을 물었더니, 실제로는 받은 적이 없는 상을 포함해 설명하는 경우가 있습니다. 또는 가상의 대학 이름을 만들어서 마치 실존 기관처럼 소개하기도 합니다.

논문을 추천해달라고 했을 때, 논문 제목과 저자, 연도까지 매우 그럴듯하지만 실제로 검색해 보면 그런 논문이 존재하지 않는 경우도 있습니다. 이처럼 AI 환각은 겉으로 보기엔 완벽해 보여서 사람들이 속기 쉬운 것이 특징입니다.

AI가 말하는 내용을 그대로 믿지 말고, 한 번 더 검증하는 습관이 중요합니다.

궁금한 정보를 AI에게 물을 때는 출처가 어디인지 알려주세요라고 함께 질문해보세요.

그래야 조금 더 정확한 정보를 얻을 수 있습니다.

특히 의학, 법률, 연구, 기업 정보처럼 정확성이 중요한 분야는 반드시 사람이 직접 확인해야 합니다.

AI는 어디까지나 도와주는 도구이지, 모든 정보를 믿고 맡길 수 있는 존재는 아닙니다.

어공 뜻 피해 대안

어공 뜻 자세히‘어공’은 ‘어쩌다 공무원’의 줄임말로, 보통 별정직이나 정무직 공무원 가운데 정치적인 이유로 임명된 사람들을 지칭하는 비공식 용어입니다. 이들은 시험이나 경력 채용

cartney79.tistory.com