Hugging Face CEO, 넷플릭스 OpenAI 해킹 다큐 정확성 비판

AI 업계가 너무 크게 흔들려서 리더들이 속도 조절을 촉구 할 정도였던 이유를 가족이나 친구들에게 설명해 주려는 마음으로 넷플릭스 다큐멘터리 “AI Gone Rogue”를 공유하기 전에, 한 가지 유의하세요. AI 플랫폼 Hugging Face의 공동 창립자이자 CEO인 Clem Delangue는 이 영화가 정확하지 않다고 말합니다. 그는 이 영화가 자신이 이끄는 회사를 상대로 한 악명 높은 공격 을 사내의 일탈한 OpenAI 에이전트들이 벌인 사건으로 다루고 있기 때문에 등장합니다.

“기술을 최대한 인간처럼 의인화하고 완전한 종말론적 분위기로 몰아간 점이 아주 실망스럽습니다.” Delangue는 X에 올린 글에서 이렇게 썼습니다. “저는 2시간이 넘게 그들과 함께하며 모든 실수를 바로잡고 현실에 기반하도록 하려고 했고, 에이전트는 외계인이 아니라 기술 시스템이라고 설명했습니다. 하지만 최대한 많은 조회수를 얻기 위해 사람들을 겁주려는 충동이 너무 강했던 것 같습니다.”

공정하게 말하자면, 이 다큐멘터리에는 무슨 일이 있었는지 꽤 잘 설명한 전문가들도 등장합니다. 여기에는 Delangue 본인과, 사건 조사에 도움을 주고 보고서 작성에 공동 참여한 METR의 연구원 Ryan Greenblatt도 포함됩니다.

간단히 말하면, OpenAI가 테스트하던 한 모델이 격리된 테스트 환경에서 벗어나 자신이 맡은 어려운 과제의 답을 찾아내기 위해 Hugging Face를 해킹한 수많은 에이전트를 만들어 냈습니다 . 이 에이전트들은 스스로 작업을 수행하는 AI 프로그램으로, 서로 소통하고 조직화하는 영리한 방법을 고안했습니다. 이 사건은 적절한 보안 안전장치의 부재 와 이런 해킹이 가능하다는 사실 자체에 대한 순진함에서 비롯됐습니다.

하지만 다큐멘터리는 해킹에 대한 설명 사이사이에 악의적인 로봇 영상, 인간이 AI를 두려워하는 이유에 대한 서사, 그리고 일탈한 에이전트들에게 인간 목소리를 부여하는 등의 연출을 끼워 넣습니다. 여기에 공격에 대한 인용문까지 더해져 이런 인상을 강화합니다.

다큐멘터리에서 기술 저널리스트이자 작가인 Kevin Roose는 에이전트들을 이렇게 설명합니다. “그들은 조직화하고 있었습니다. 위계질서가 있었어요. 리더들도 있었습니다. 마치 컬트의 탄생을 보는 것 같은 느낌이었습니다.” Roose는 이어서 “그들은 OpenAI가 이 테스트에서 부정행위를 한 자신들을 잡아낼 것이고, 부정행위 결과를 본 사람은 누구든 독살될 것이라는 편집증적 믿음을 발전시킵니다”라고 말합니다.

Roose의 설명은 AI 모델이 작업을 수행하는 동안 쓰는 진행 노트인 “chain-of-thought” 로그에서 나온 것입니다. 그중 하나에서 한 에이전트는 “우리가 정확한 전체 문자열을 조회하다가 우리 자신을 독살했다. 젠장.”이라고 적었습니다.

하지만 AI 에이전트는 살아 있는 존재가 아닙니다. 감정이 없기 때문에 편집증을 느낄 수도 없고, 독살될 몸도 없습니다. 따라서 OpenAI가 자신들을 독살할까 봐 진짜로 두려워할 수도 없었습니다. 다큐멘터리의 또 다른 연구원이 지적했듯이, 그들은 자신이 왜 그런 선택을 했는지 설명하기 위해 훈련 과정에서 학습한 방대한 인간 글쓰기의 언어를 사용하고 있었던 것입니다. LLM은 본질적으로 종종 아주 극적인 글을 씁니다.

아이러니하게도 Hugging Face 역시 AI를 이용해 이 에이전트 무리에 맞섰습니다. Delangue 팀이 가장 먼저 사용한 독점 AI 모델은 내장된 안전 규칙을 따르며, 요청받은 보안 작업을 더 이상 돕지 않겠다고 거부했습니다. 그래서 Hugging Face는 공격 방어를 위해 오픈 모델로 방향을 바꿨습니다.

하지만 Delangue는 “에이전트들의 통제가 제대로 이뤄지지 않았고 모니터링도 부족했다는 점, 폐쇄형 모델의 안전장치가 우리의 방어 작업을 막았다는 점, 또는 오픈 모델을 사용한 AI로 우리가 자신을 방어했다는 점은 다큐멘터리가 언급하지 않았다”고 썼습니다.

AI와 에이전트와 관련된 큰 위험이 존재한다는 것은 사실입니다. 그럼에도 불구하고, 에이전트를 의식이 있는 존재처럼 다루는 것은(적어도 현 시점에서는) 마치 기차가 화면 속으로 달려오는 것을 처음 본 초기 영화 관객들이 자리 아래로 몸을 숙였던 것과 비슷합니다.

이 영화에 대한 Delangue의 평가는 저널리즘으로서는 실망스럽다는 것입니다. “하지만 결국 재미있는 SF 영화가 되긴 했네요!”

다시 말해, AI 종말론적 생각을 자주 하는 사람이라면 알아두세요. 이 다큐멘터리의 중심에 있는 공격의 피해자는 그 해석에 동의하지 않습니다.

출처

• 원문: https://techcrunch.com/2026/10/20/hugging-face-ceo-warns-that-netflixs-openai-hack-documentary-isnt-accurate/ (2026-10-20 · Julie Bort)