요즘 AI가 엉뚱한 소리를 많이 하는 이유
요즘 GPT나 GEMINI에서는 하루가 다르게 새로운 모델들을 출시하고 있습니다.
GPT 5.1이 발표되자, 구글이 기다렸다는 듯 Gemini 3을 발표하는 등
전쟁터를 방불케하는 모습인데요.

그런데 참 이상하죠.
버전 숫자는 계속 올라가는데
막상 써보면 어째 예전보다 좀 멍청해진 것 같지 않으신가요?
분명 최신형이라는데 엉뚱한 소리를 늘어놓거나
전에 안 하던 실수를 반복한다는 불만이 여기저기서 터져 나오고 있습니다.
그 원인은 뭘까요?

전문가들은 지금과 같은 속도라면 2026년쯤 AI가 공부할 수 있는
공개 데이터가 바닥날 것이라고 합니다.
AI는 도서관에 상주하는 독서광과 같습니다.
지금까지는 인간이 만든 서적으로 가득한 도서관에서
수억 권의 책을 밤새워 읽으며 지식을 쌓았지만
이제는 읽을 책이 몇 권 남지 않게 된 상황인 거죠.

Gemini나 GPT와 같은 LLM, Grok의 수장이기도 한 일론 머스크는
더 이상 읽을 새로운 책, 즉 새로운 인간의 데이터가 없다면
AI는 자기가 쓴 글을 다시 읽고 공부해야 하는 상황이 올 테고
그러면 품질이 떨어질 수 있다고 지적했습니다.
새로운 인간의 데이터를 찾지 못한 AI가,
AI 자신이 만들어낸 합성 데이터를 다시 교재로 삼아 학습하는
자기 학습에 빠지는 경우가 문제인데요,
인간이 만든 데이터 속의 미묘한 뉘앙스와 다양성은 사라지고
희미하고 뻔한 패턴만 남는 현상이 일어나는 겁니다.
이것이 바로 AI 학계에서 경고하는 모델 붕괴 현상입니다.
물론 해결책이 없는 것은 아닙니다.
신선한 유기농 식재료가 건강한 몸을 만들듯
인간이 검증하고 정제한 고품질 데이터를 다시 공급해 주면 됩니다.
허나 양질의 콘텐츠는 대부분 저작권으로 보호받고 있어
기업들이 마음대로 가져다 쓸 수는 없습니다.
그래서 최근 빅 테크 기업들은 Reddit이나
뉴스 기업들과 수천억 원대의 데이터 라이선스 계약을 맺으며
인간의 데이터를 확보하려 혈안이 되어 있습니다.
새로운 재료가 없다면
결국 AI는 텅 빈 도서관에서 저작권이라는 잠긴 책장만 바라보며
자신이 쓴 낙서를 다시 읽고 있는 신세가 될 수도 있는 셈이죠.
생각해 볼 문제들
AI가 인간 고유의 창작물이 아닌 AI가 생성한 데이터만으로 학습을 지속한다면
미래의 인공지능은 오히려 현재보다 퇴보하게 될까요?
AI 답변에 오류가 많아지는 요즈음, 우리는 정보를 검증하고 비판적으로 수용하는 능력을
어떻게 길러야 할까요?
저작권 보호와 AI 기술 발전 사이에서 우리는 어떤 사회적 합의점을 찾아야 할까요?
