전 OpenAI 안전 책임자 “회사 문화가 무너졌다”

그가 내놓은 처방은 다른 산업에서 빌려 왔습니다. TechCrunch에 따르면 그는 프런티어 연구소를 원전·항공 수준의 안전 기준으로 운영하고, 이중화 장치와 더 느린 계획을 갖추며, 안전을 위한 외부 유인과 AI 시스템이 인간 가치에 얼마나 가깝게 맞춰졌는지 재는 더 나은 방법으로 이를 뒷받침해야 한다고 주장합니다. Calcalist는 그가 프런티어 모델 12종의 출시 보고서를 작성했다고 소개하며, 업계가 ‘먼저 내놓고 나중에 고치는’ 방식에서 벗어나 항공 수준의 기준으로 옮겨 가고, 더 강력한 시스템을 만들기 전에 안전 연구를 마치길 바란다고 전합니다. “시행착오의 시대는 끝났다”라고 그는 썼습니다.

OpenAI 대변인 드루 푸사테리는 TechCrunch에 회사가 안전하게 다룰 수 있는 수준을 넘어 모델이 강력해지지 않도록 관리하고 있으며, 필요할 때는 학습을 멈추거나 모델 출시를 보류한다고 말했습니다. 이 에세이는 OpenAI가 정보 공유를 이유로 안전 연구원 3명을 해고한 같은 주에 나왔습니다.

OpenAI 모델을 쓰는 기업 입장에서 제품이 달라지는 것은 없습니다. 다만 그 뒤의 안전 절차를 놓고, 안전 보고서를 직접 쓴 사람이 이제 공개적으로 논쟁을 벌이고 있습니다.