OpenAI, 캘리포니아 SB 53에 대한 입장 번복 — 더 강력한 AI 안전 규정 촉구

OpenAI가 이전에 반대했던 캘리포니아 주 AI 안전 법안 SB 53을 강화해 달라고 요청하고 나섰다 — 프런티어 AI를 둘러싼 규제 셈법이 얼마나 빠르게 변하고 있는지를 보여주는 주목할 만한 입장 번복이다.

핵심 요약

• OpenAI는 캘리포니아 AI 안전 법안 SB 53에 대한 기존 반대 입장을 번복하고, 주 정부에 법안 조항 강화를 촉구하고 있다.
• SB 53은 가장 강력한 AI 모델 개발자에게 안전 요건을 부과하는 캘리포니아 주 법안이다.
• 이번 입장 번복은 OpenAI가 내부 대비팀을 조용히 해산한 이후에 나왔다 — 해당 팀은 이전에 모델의 재앙적 위험을 평가하는 역할을 맡고 있었다.
• 더 엄격한 주 차원의 안전 규정은 공개적으로 제공되는 모델, 훈련 방식, 허용되는 출력물에 영향을 미칠 수 있다.
• 강화된 법안의 최종 문안은 아직 공개되지 않았으며, 새로운 요건의 범위도 확인되지 않은 상태다.

반대에서 지지로 — OpenAI에서 무엇이 바뀌었나

OpenAI의 SB 53에 대한 기존 입장은 명확한 반대였다. OpenAI는 다른 주요 AI 개발사들과 함께, 캘리포니아 특유의 규정이 규제 환경을 분열시키고 미국 기업들이 해외 경쟁사 대비 불리해지는 컴플라이언스 부담을 초래할 것이라고 주장했다. 그 논리가 사라진 것은 아니다 — 업계 로비에서 여전히 자주 등장하는 주장이다 — 하지만 OpenAI는 더 이상 이 법안에 대해 그런 주장을 펼치지 않고 있다.

TechCrunch 보도에 따르면, OpenAI는 현재 캘리포니아 입법자들에게 현행 초안보다 더 나아가 달라고 적극적으로 요청하고 있다. 회사는 입장 변화를 설명하는 상세한 공개 성명을 발표하지 않아, 정확한 이유는 여전히 불분명하다. 분명히 드러나는 것은 타이밍이다. 이번 번복은 대비팀 해산과 주목받은 샌드박스 침해 사건을 포함해 OpenAI의 내부 안전 관행에 대한 공개 비판이 수개월간 이어진 이후에 나왔다.

AI 창작자들에게 실질적인 문제는 더 강력한 안전 요건이 실제로 무엇을 규율하게 될 것인가이다. 현행 초안의 SB 53은 가장 강력한 프런티어 모델 개발자를 대상으로 한다 — 이미지 생성기, 영상 도구, 프롬프트 보조에 사용되는 대형 언어 모델의 근간이 되는 바로 그 시스템들이다. 해당 개발자들에 대한 더 엄격한 규정은 어떤 모델 기능이 공개적으로 출시되는지, 어떤 파인튜닝 방식이 허용되는지, 새로운 세대의 생성형 모델이 창작자들이 매일 사용하는 도구에 얼마나 빠르게 도달하는지에 영향을 미칠 수 있다.

SB 53이 실제로 다루는 내용 — 그리고 아직 열려 있는 것들

SB 53은 가장 강력한 AI 모델 개발자에게 안전 의무를 부과하는 캘리포니아 주 법안으로, 일반적으로 컴퓨팅 임계값 — 모델 훈련에 사용된 처리 능력의 양 — 으로 대상을 정의한다. 현행 법안은 개발자들이 배포 전에 기본적인 안전장치를 구현하고 모델 위험을 문서화하도록 요구하고 있다.

OpenAI가 해당 조항 강화를 촉구한다는 것은 임계값 상향, 감사 요건 추가, 또는 평가해야 할 위험 범주 확대를 의미할 가능성이 높다. 그 추가 문안은 아직 확정되지 않았다. 수정 초안이 공개될 때까지, 특정 모델이나 도구에 대한 구체적인 영향은 추측에 머물 수밖에 없다.

이미 분명한 것은 캘리포니아가 이 분야에서 막대한 영향력을 갖고 있다는 점이다. 주요 AI 개발사 대부분이 캘리포니아에 본사를 두고 있기 때문에, 캘리포니아 법은 사실상 전국적인 기준선을 설정한다. 실질적인 구속력을 갖춘 법안이 통과된다면, 시장에 나와 있는 거의 모든 AI 이미지·영상 도구를 구동하는 모델을 만드는 기업들에 적용될 것이다.

이번 변화를 형성한 신뢰의 문제

더 넓은 맥락에는 수개월간 쌓여온 신뢰 적자가 있다. Anthropic CEO 다리오 아모데이는 AI에 대한 거세지는 저항을 「근본적으로 신뢰의 위기」라고 표현했으며, OpenAI의 SB 53에 대한 입장 전환도 같은 맥락에서 읽힐 수 있다. 내부 거버넌스가 도마에 오른 상황에서 외부 감독을 자발적으로 지지하는 것은 기업이 보낼 수 있는 가장 신뢰할 만한 신호 중 하나다.

프런티어 모델에 의존해 작업하는 창작자들에게 SB 53의 결과는 주목할 가치가 있다. 캘리포니아가 강화된 버전을 통과시킨다면, 그것은 창작자들이 매일 사용하는 이미지 생성기와 스타일 카탈로그 뒤에 자리한 모델들의 훈련, 배포, 기능 경계를 형성하게 될 것이다. 입법 회기는 진행 중이며, OpenAI가 구체적으로 요청한 내용을 포함한 최종 문안은 아직 공개되지 않았다.