Twitch는 모든 스트리머의 AI 학습을 기본으로 켠 뒤, 왜 사전 동의 방식이 아닌지 설명했다
8월 12일, Twitch는 '생성형 AI 학습'이라는 새로운 계정 설정을 공개했다. 스트리머들이 확인했을 때 이 설정은 이미 켜져 있었다.
이 설정은 Amazon이 채널 콘텐츠를 생성형 AI 모델 학습에 사용할 수 있는지를 결정한다. 라이브 스트리밍만 해당하는 것이 아니다. Twitch가 직접 작성한 설명에 따르면 스트리밍, 주문형 녹화 영상, 클립, 채팅 메시지, 채널에 게시한 이미지와 텍스트가 모두 포함되며, 이 모든 콘텐츠가 텍스트, 오디오, 이미지, 동영상을 생성하거나 합성하는 모델에 제공된다. 참여를 원하지 않는다면 보통 확인할 법한 크리에이터 대시보드가 아니라 채널 설정의 보안 및 개인정보 보호 메뉴에서 꺼야 한다.
이 사안이 단순한 정책 각주가 아니라 뉴스가 된 이유는 그 설명에 있었다.
드러난 속내
그 주 Twitch는 최고제품책임자 Mike Minton과 커뮤니티 책임자 Mary Kish가 약 3,000명의 크리에이터로 구성된 시청자들의 질문에 답하는 Patch Notes 라이브 스트리밍을 진행했다. 채팅창에는 당연한 질문이 쏟아졌다. 왜 사전 동의가 아니라 거부 방식인가?
Minton은 솔직하게 답했다. "사전 동의 방식이었다면 아무도 동의하지 않았을 겁니다." 그는 이것이 말 그대로 솔직한 답이라고 덧붙였다.
그의 말은 거의 확실히 맞다. 그리고 바로 그것이 문제다. 기본 설정이 플랫폼에 이토록 큰 가치가 있는 이유는, 요청받았다면 거부했을 사람들에게서 동의를 받아내기 때문이다. 사전 동의 절차가 얼마나 큰 마찰을 일으키는지에 관한 모든 주장은 사실상 얼마나 많은 사람이 거부할 것으로 예상하느냐에 관한 주장이다.
이 설정이 생기기 전에 Amazon이 이미 크리에이터 콘텐츠를 학습에 사용했느냐는 질문에 Minton은 Amazon이 무엇을 했는지 모르기 때문에 자신도 모른다고 답했다. 그는 별도로 Twitch 콘텐츠를 활용한 학습이 적어도 2024년부터 프로토타입 규모로 진행돼 왔다고 인정한 바 있다. 새 토글은 앞으로의 사용에만 적용되므로, 앞선 질문의 답이 '그렇다'라면 이 설정을 꺼도 이미 이뤄진 일에는 아무런 영향을 주지 못한다.
안심하기 전에 예외 사항부터 읽어라
설정을 껐을 때의 적용 범위는 생각보다 좁다. Twitch는 안전 도구가 모두를 보호하며 사용자별로 비활성화할 수 없다는 이유로, 설정과 관계없이 자막과 AutoMod가 채널에서 계속 작동한다고 설명한다. Twitch는 이 기능들이 모델 학습용 데이터를 보관하지 않는다는 입장이다. 이는 의미 있는 차이이지만, 동시에 Twitch의 말을 믿어야만 하는 부분이기도 하다.
대부분의 사람이 놓친 부분은 채팅에 관한 내용이다. 자신의 설정은 자신의 채널에만 적용된다. 다른 사람의 채팅에 메시지를 입력하면 그 메시지가 사용될지는 채널 소유자의 설정에 따라 결정된다. 자신을 완전히 제외해도 시청하는 모든 스트리밍의 학습 데이터에는 여전히 포함될 수 있다.
이것이 우리와 관련 있는 이유
이를 스트리밍 업계의 논란으로만 분류하기는 쉽지만, 사실 이는 우리가 올해 세 가지 다른 방향에서 계속 추적해 온 것과 같은 질문이다. 7월에는 Godot가 AI 생성 기여물을 전면 금지한 소식과 이제 신규 게임 세 개 중 하나가 AI 사용을 공개한다는 Steam 조사를 다뤘다. Twitch는 이 문제의 세 번째 얼굴이다. AI가 무엇을 만들어 내는지, 무엇을 공개해야 하는지가 아니라, 애초에 그 시스템을 만들기 위해 무엇을 빼앗기는지에 관한 문제다.
지난 몇 년간의 스크래핑 분쟁은 누구도 계약을 맺지 않았고 모두가 변호사의 의견을 하나씩 갖고 있던 공개 웹에 관한 것이었다. 이번에는 다르다. 이들은 플랫폼과 공식적인 관계를 맺은 크리에이터들이고, 이용 조건은 플랫폼이 작성한다. 그런데 그들이 알지도 못한 사이, 직접 안내받아야만 발견할 수 있는 토글과 함께 조건이 바뀌었다. Roblox, Discord, itch.io, YouTube를 비롯해 사람들이 만든 것을 호스팅하는 모든 UGC 플랫폼은 이제 이 일을 어떻게 실행할 수 있는지, 그리고 어떤 반응을 불러오는지 보여주는 실제 사례를 갖게 됐다.
창작 플랫폼을 기반으로 활동하는 사람이라면 실용적인 조언은 지루하지만 반복할 가치가 있다. 자신의 작업물을 보관하는 모든 서비스의 기본 설정을 확인하고, 제품 업데이트 후 다시 확인하며, "설정을 추가했다"는 발표를 해당 설정에서 실제로 제외되는 항목을 읽어보라는 신호로 받아들여야 한다. 발표 내용과 예외 사항 사이의 간극에 주목할 만한 조건들이 숨어 있다.
우리도 사람들이 무언가를 만드는 플랫폼을 구축하고 있으므로, 우리에게 적용되길 바라는 기준을 분명히 밝힐 필요가 있다. 사람들이 알아차리지 못할 때만 작동하는 기본 설정은 동의가 아니라 수집이다. 어떤 선택이 그 선택을 하는 사람에게 정말로 이롭다면, 직접 동의를 구한다고 해서 잃을 것은 없다.