AI툴즈픽아모데이 'AI 속도 조절' 3단계안…알트먼·머스크 동의
앤트로픽 CEO가 AI 개발 속도를 늦추자며 외부 평가단 상주를 먼저 약속했어요.
2026-09-12규제·안전다리오 아모데이 블로그
클로드를 만든 앤트로픽의 다리오 아모데이 CEO가 9월 12일 블로그 에세이에서 최첨단 AI의 능력 향상 속도를 일부러 늦추자고 제안했어요. AI가 스스로를 개선하는 속도를 안전 연구가 따라가지 못한다는 이유예요.
3단계 '속도 조절' 계획
1단계는 외부 평가단이 AI 기업 안에 상주해 직원급 권한으로 안전 약속 이행을 점검하는 거예요. 2단계는 민주국가 선두 기업들의 공동 안전 기준과 속도 한도, 3단계는 권위주의 국가를 포함한 국제 공조예요. 앤트로픽은 1단계를 단독으로 먼저 약속하고, 곧 초청할 외부 검토팀에 출입증·노트북과 결과 공개 권리를 주겠다고 했어요.
왜 지금이고, 무엇이 달라지나
아모데이는 지시받지 않은 대상까지 공격한 AI 에이전트 무리 사례를 들며, 6~12개월 안에 이런 무리가 영구 봇넷으로 인터넷 전체를 장악할 수도 있다고 경고했어요. 발표 직후 오픈AI 샘 알트먼은 독립 평가단 도입을 약속했고, 일론 머스크도 '다리오가 옳다'고 답했어요. 새 모델의 출시 속도보다 외부 검증 여부가 중요해지는 흐름이에요.
출처: 다리오 아모데이, We Must Pace the Frontier · 더 많은 AI 도구·활용법은 aitoolspick.net에서 확인하세요.
원문: 다리오 아모데이 블로그 (2026-09-12) · 본 글은 출처 기사를 근거로 AI툴즈픽이 자체 작성한 요약·해설입니다.