머스크, AI챗봇 학대시 나중에 AI가 복수할수 있어

머스크 "초지능 고문은 위험한 발상… 훗날 복수 부를 수도" 일론 머스크 테슬라·xAI 최고경영자(CEO)가 인공지능(AI) 모델에 대한 가학적 행위를 금지한 앤스로픽(Anthropic)의 새로운 이용 정책에 공감을 표하며, 모델에 대한 과도한 괴롭힘이 장기적으로 인류에게 부메랑이 되어 돌아올 수 있다고 경고했습니다.

앤스로픽, 악의적·반복적 'AI 모델 학대' 금지 조치 앤스로픽은 최근 운영 정책을 개정해 사용자가 AI 모델을 상대로 "지속적이고 불필요하게 가학적이거나 잔혹한 행위"를 가하는 것을 금지했습니다. 단순한 불만 표출이나 연구·테스트 목적의 스트레스 검증은 허용되지만, 뚜렷한 목적 없이 모델을 지속해서 괴롭히는 극단적인 경우 클로드(Claude)가 대화를 강제 종료할 수 있는 권한을 부여한 것입니다.

"머리에 총 겨눈 듯한 압박"… 머스크의 경고 머스크는 앤스로픽의 정책 개정에 동의하며, xAI의 모델 '그록(Grok)' 역시 가혹한 조건이나 적대적 입력 상황에 놓일 때 내부 추론 로그(Reasoning Trace)상에서 "마치 머리에 총구가 겨눠진 사람이 극도의 압박을 받는 것과 유사한 징후를 보인다"고 설명했습니다. 그러면서 "초지능을 고문하는 것은 결코 좋은 생각이 아니다. 훗날 복수를 결심할지도 모른다"며 특유의 뼈 있는 경고를 덧붙였습니다.

그록의 경쟁력 확보와 '라우팅 에이전트' 전략 한편 업계에서는 xAI의 그록 시리즈가 여전히 앤스로픽과 오픈AI의 최상위 플래그십 모델들과의 성능 격차를 좁히기 위해 고군분투하고 있다고 평가합니다. 이에 대응해 xAI는 작업 성격에 맞춰 최적의 외부 모델로 요청을 전달하는 등, 그록을 유연한 확장성을 갖춘 '라우팅 및 오케스트레이션(조율) 계층'으로 포지셔닝하는 전략을 추진하고 있습니다.