Anthropic update on independent evaluators

요즘 날로 똑똑해지는 AI 소식을 들으면 신기하기도 하지만, 한편으로는 ‘이거 정말 안전한 걸까?’ 하고 걱정되신 적 다들 있으시죠?

AI 기술을 만드는 곳에서 직접 “우리 안전하게 잘 만들고 있어요!“라고 말하는 것만으로는 왠지 조금 부족하게 느껴질 때가 있는데요. 인공지능(AI) 기업 앤트로픽(Anthropic)이 이와 관련해 아주 흥미롭고 투명한 움직임을 시작했다고 해요. 어떤 내용인지 함께 가볍게 살펴볼까요?

전체 글 정리

외부 전문가에게 문을 활짝 연 앤트로픽

• 앤트로픽은 모델과 안전 관행을 외부 독립 기관으로부터 철저히 검증받겠다고 약속했어요.
• 백악관의 슈퍼 인텔리전스 협약에도 서명하며 외부 감사관과의 협력을 공식화했답니다.
• 마치 은행을 감독하는 금융감독관처럼, 외부 전문가들이 직접 안쪽을 들여다볼 수 있게 판을 깔아준 셈이에요.

METR과의 본격적인 협력: ‘직원급 접근’ 권한 부여

• 비영리 AI 평가 기관인 ‘METR’ 소속 인력 6명이 앤트로픽에 ‘직원급’으로 합류했어요.
• 회사 하드웨어, 사무실 공간은 물론 내부 도구와 시스템까지 실제 사내 평가팀과 비슷한 수준으로 이용할 수 있게 되었죠.
• 고객 정보나 보안상 꼭 숨겨야 하는 극히 일부 내용을 제외하고는 모든 정보를 투명하게 공유하고 있어요.
• METR은 검증 결과를 자유롭게 세상에 공개할 수 있으며, 앤트로픽은 내용을 마음대로 막을 수 없답니다.

단계별로 다져가는 안전망과 파트너십

• METR 같은 최상위 단계 외에도, SecureBio, 액센츄어(Accenture) 등 다양한 전문 기관들과 협력을 넓혀가고 있어요.
• 파트너십의 깊이에 따라 총 3단계의 접근 등급을 나누어 차근차근 신뢰를 쌓고 있답니다.
• 철저한 보안 기준을 지키면서도, 외부의 객관적인 시선으로 AI 위험성을 미리 점검하고 튼튼한 안전장치를 만들려는 목표예요.

이용 방법 / 활용 방안

이번 소식은 개발자나 연구원들만의 이야기가 아니에요. 일반 대중의 관점에서 주목해야 할 점은 **‘AI 기업들이 스스로 투명성을 높이기 위해 노력하고 있다’**는 신호라는 점이죠.

우리가 일상에서 AI를 더 안심하고 편리하게 쓸 수 있도록, 보이지 않는 곳에서 외부 전문가들이 철저한 안전 검사를 거치고 있다는 뜻이기도 해요. 앞으로 어떤 새로운 AI 서비스가 나오든 “안전 장치가 제대로 작동하고 있는지” 눈여겨보는 안목을 기르는 데 좋은 참고가 될 거예요.

여러분은 AI 기업의 이러한 자체적인 외부 검증 노력에 대해 어떻게 생각하시나요?