아이러니하게도 AI 업계에 문제가 발생했다. AI 탐지 스타트업인 GPTZero가 최고의 AI 학회인 NeurIPS에서 발표된 논문에서 환각 인용을 발견한 것이다. 이 회사는 지난달 샌디에이고에서 열린 행사에서 채택된 4,841편의 논문을 스캔했다. 그 결과 51편의 논문에서 100개의 가짜 인용을 발견했다.

NeurIPS는 매우 존경받는 AI 연구 학회이다. 이번 발견은 학술 논문 작성에 대규모 언어 모델(LLM)을 사용하는 것에 대한 의문을 제기한다. 수만 건의 인용 중 100개의 환각 인용은 통계적으로 미미하지만 잠재적인 문제를 강조한다. 부정확한 인용이 연구 자체를 무효화하지는 않지만 학문적 엄격성을 훼손한다.

NeurIPS는 이 문제를 인지했다. 그들은 Fortune지에 부정확한 참고 문헌이 있더라도 논문의 내용이 반드시 무효화되는 것은 아니라고 말했다. 학회는 높은 기준을 자랑스럽게 생각한다. 이번 사건은 연구에서 AI의 역할과 신중한 사실 확인의 필요성에 대한 논쟁을 불러일으킨다.

LLM은 방대한 데이터 세트로 훈련된다. 때로는 "환각"으로 알려진 그럴듯하지만 거짓된 정보를 생성할 수 있다. 이번 사건은 AI 도구를 사용할 때 인간의 감독이 중요하다는 점을 강조한다. AI 커뮤니티는 이러한 발견에 대해 논의하고 향후 발생을 방지할 방법을 모색할 것으로 예상된다. AI 지원 연구에 대한 추가 조사 및 업데이트된 지침이 예상된다.