할루시네이션: 챗GPT 서치, 빙 ai 오류 거짓말 이유

할루시네이션: 챗GPT 서치, 빙 ai 오류 거짓말 이유 

 

안녕하세요. 하루 3분, 인생을 바꾸는 3분 재테크입니다.

 

챗GPT가 등장하면서 이제는 인공지능의 시대가 대로했습니다.

 

너무나도 편리한 인공지능이지만 정작 사용하다보면 오류가 많이 발생하는데요.

 

오늘은 이와 관련된 용어를 알아보도록 하겠습니다.

 

 

할루시네이션이란?

할루시네이션(hallucination)은 한국어로 번역하면 '환각'을 의미합니다.

 

이는 인공지능이 모르는 정보도 그럴싸한 정보를 조합해 거짓으로 답변을 하는 것을 뜻합니다.

 

예를 들어 한국 대통령이 누구냐고 물어볼 때 '윤석열'대통령이 아닌 '이재명'을 답변하는 식입니다.

 

한국사람이라면 이게 거짓 정보임을 모두가 알겠지만 한국에 대해 잘 모르는 외국인이라면 이 정보를 믿을 수도 있겠습니다.

 

챗GPT연관검색어에서 '챗GPT 오류, 거짓말' 등의 단어들이 있는 걸 보아 할루시네이션은 생각보다 자주 이루어집니다.

 

이처럼 인공지능 사용 시 나오는 모든 정보를 맹신해서는 안되겠습니다.

 

 

 

할루시네이션 원인

챗GPT가 거짓말을 하는 이유에는 여러가지가 있지만 대표적인 이유로는 2가지가 있습니다.

 

첫번째는 처음부터 잘못된 데이터로 학습을 해 잘못된 답변을 하는 것입니다.

 

웹에서 수집한 텍스트 데이터를 기반으로 인공지능을 학습하는데, 이 과정에서 오류가 발생할 수 있습니다.

 

두번째는 챗GPT의 학습데이터가 2021년 9월까지의 정보를 기반으로 한다는 점입니다.

 

그 이후의 정보는 업데이트 되어있지 않기때문에 그 이후의 정보나 실시간, 최신 정보에 대해 답변하는 것을 어렵습니다.

 

 

 

다른 인공지능에서는?

그렇다면 챗GPT와 다른 인공지능을 비교하면 어떨까요?

 

네이버 서치GPT와 마이크로소프트의 빙도 거짓말로 답변을 하는지 알아보도록 하겠습니다.

 

 

①네이버 서치 GPT

올해안에 출시하기로한 네이버 서치 GPT의 컨퍼런스가 2월 27일에 열렸습니다.

 

네이버가 국내 최대의 검색엔진인만큼 많은 사람들의 기대를 모았지만 서치 GPT역시 거짓말로 답변을 해 다소 실망스러운 모습을 보였습니다.

 

2월 27일 일본여행시 입국정보 등록법에대해 질문을 하자 서치 GPT는 모더나, 얀센, 아스트라제네카, 푸라노스 백신 중 2차접종이 완료되어야 입국이 가능하다고 답변을 했습니다.

 

이 중 푸라노스 백신은 현존하는 백신이 아니므로 거짓말이 됩니다.

 

 

②마이크로소프트 빙 ai(Bing)

마이크로소프트 빙ai은 실시간으로 검색해 답변하는 방식으로 챗GPT에 비해서 답변의 정확도가 높습니다.

 

하지만 빙 ai역시 실시간 정보와 관련된 답변에서는 정확도가 떨어졌습니다.

 

휠라홀딩스의 종가를 물어보자 35,600원이라고 답변하면서 그 아래 35,000원 종가라는 정보를 동시에 제공했습니다.

 

즉 답변에 오류가 발생한 셈입니다.

 

차별점이 있다면 빙 ai의 경우엔 정보의 출처까지 함께 제시하고 있어 사용자가 원한다면 답변의 신빙성을 확인할 수 있다는 장점이 있습니다.

 

 

프롬프트 엔지니어링

인공지능이 거짓말로 답변하는 현상을 줄이기 위해 최근에는 새로운 직업도 탄생했습니다.

 

바로 '프롬프트 엔지니어' 라는 직업입니다.

 

이는 인공지능을 사용할 때 오류없이 정확한 대답을 얻기위해 프롬프트 입력값의 조합을 찾는 직업입니다.

 

인공지능이 이전보다 생활화된만큼 해당 직업의 중요성도 커지겠습니다.

---

이상 챗GPT, 네이버 서치GPT, 마이크로소프트의 빙 ai의 할루시네이션 현상에 대해 알아보았습니다.

 

아래에는 오늘의 글과 관련된 링크를 연결해두었으니 읽어보시면 도움이 됩니다. 감사합니다 :)

 

▼함께 보면 좋은 글

챗(Chat)GPT 사용후기! 이용방법, 유료, 홈페이지