AI들이 일본을 유독 좋아하는 이유에 대한 연구
연구자들이 모든 대규모 언어 모델(LLM)이 사실 일본에 은근히 집착하고 있다는 사실을 증명했다.
그리고 마침내 그 이유까지 밝혀냈다.
연구진은 대규모 언어 모델에 숨어 있는 문화적 편향을 조사한 논문을 발표했다.
이들은 Gemini, ChatGPT, Claude, Llama 등의 모델을 대상으로 24개 언어에 걸쳐 31,000개의 질문을 테스트했다.
질문에서 지리적 단서를 모두 제거하고, 모델이 스스로 장소를 선택해 답변하도록 했다.
그 결과는 모든 모델에서 공통적으로 나타났다. 다양한 모델과 언어 전반에 걸쳐 일본 문화에 대한 광범위한 ‘집착’이 발견된 것이다.
일본과 아무런 연관성이 없는 언어로 질문하더라도, 모델들은 일본의 규범, 가치관, 미적 취향을 기본값처럼 선택하는 경향을 보였다. 그 빈도는 전 세계 인구에서 일본이 차지하는 실제 비중에 비해 지나치게 높았다.
그런데 가장 놀라운 사실은 따로 있다. 연구진은 AI가 정확히 어느 단계에서 이런 집착을 갖게 되는지까지 추적해 냈다. 그리고 그 원인은 인터넷의 원시 데이터를 학습하는 과정이 아니었다.
사전 학습(Pre-training) 단계에서 모델들은 오히려 세계를 상당히 균형 잡힌, 전 지구적인 관점으로 바라보고 있었다.
이러한 집착이 주입되는 시점은 바로 안전성 학습(Safety Training) 단계였다.
기술 기업들이 모델을 ‘도움이 되고, 해를 끼치지 않으며, 예의 바르게’ 행동하도록 미세 조정하는 과정에서, AI는 기업의 안전성 지침을 일본의 문화적 개념과 직접 연결하기 시작한다.
완벽하게 무해하고, 누구의 기분도 상하게 하지 않으며, 지시에 순응하는 이상적인 AI 비서를 만들려는 과정에서 기업들은 오히려 모델이 세상을 바라보는 방식을 왜곡해 버린 것이다.
양자화(Quantization) 과정, 즉 모델을 압축해 로컬 환경에서 더 빠르게 실행할 수 있도록 만드는 작업은 이러한 결정론적 경향을 더욱 증폭시킨다.
작고 빠른 로컬 모델일수록 더욱 고정관념에 사로잡힌 방식으로 행동하게 되고, 그 결과 일본 문화에 대한 전형적인 묘사나 클리셰가 급격히 증가한다.
우리는 그동안 AI 안전성을 논하면서 인류의 존망을 위협할 실존적 위험에 온갖 관심을 쏟아 왔다.
하지만 정작 진짜 AI 정렬(Alignment) 문제는, 우리의 가장 발전된 추론 엔진들이 일본의 인터넷 문화에 과도하게 집착하고 있다는 사실이다.
모델이 업그레이드될 때마다 이런 보이지 않는 지역적 편향은 더욱 강화되고, AI가 이야기와 사실, 코드를 생성하는 방식까지 좌우한다.
인터넷에 존재하는 문화적 상식은 결코 보편적이지 않다.
그저 레딧과 애니메이션 위키에 가장 열성적으로 매달려 있던 사람들이 무엇에 집착했느냐에 따라 특정 지역의 문화로 편향되어 있을 뿐이다.
💬 댓글1
23프링글스한마디로 빠들 과대반영이란거군