AI 뉴스 — AI 안전성 성적표, 1등도 C+ (그 1등이 앤트로픽)

3줄 브리핑

생명미래연구소(Future of Life Institute)가 주요 AI 기업 9곳을 37개 지표로 평가한 '여름 AI 안전지수'를 냈습니다. 결과는 냉정합니다 — 어떤 회사도 C+(2.66/4.0)를 넘지 못했고, 그 최고점을 받은 곳이 클로드를 만드는 앤트로픽이었습니다. 앤트로픽은 6개 영역 중 5개에서 선두였습니다.

전반적으로는 경고에 가깝습니다. 앤트로픽·OpenAI·구글·메타 등 여러 곳이 '위험 임계에 도달하면 개발을 멈추겠다'던 과거 약속을 후퇴시켰고, 가장 취약한 영역인 '실존적 안전'은 대부분 D 이하였습니다. 1등도 자기 기준에 못 미친다는 게 평가자들의 결론이었어요.

우리에게 이게 왜 중요하냐 — 어떤 AI에게 내 업무·자료를 맡길지 고를 때, 성능만 볼 게 아니라 '이 회사가 안전·투명성을 어떻게 다루나'도 기준이 되어야 하기 때문입니다. 우리가 클로드를 기본으로 쓰는 이유 중 하나가 여기 있습니다. 물론 '최고점도 C+'라는 건, 어떤 모델도 맹신하지 말고 사람이 최종 확인(휴먼 인 더 루프)을 놓지 말라는 뜻이기도 하고요.