세계 뉴스
Anthropic, AI 안전장치 해제 요구를 거부하다
회사는 "양심상 클로드의 제한을 제거할 수 없다"고 말합니다.
HQ
AI 기업 앤트로픽은 국방장관 피트 헤그세스가 2억 달러 계약을 취소하고 회사를 "공급망 위험"으로 규정하겠다고 위협한 후, 클 로드 모델의 안전 보호 장치를 제거하라는 펜타곤 요구에 응하지 않겠다고 밝혔다. CEO 다리오 아모데이는 회사가 미국 국가 안보를 지원할 의향이 있으 나 안전장치가 마련된 상태에서 계속 지원할 의향이 있다고 말했다.
분쟁의 중심에는 군이 클로드의 제한 없고 합법적인 사용을 요청하는 점이며, 자율 무기 배치 가능성과 국내 감시 가능성도 포함되어 있다. Anthropic은 해당 기술이 해당 역할에 안전하거나 신뢰할 수 없다는 이유로 이러한 응용 사용을 거부했습니다.
이 대치 상황은 AI 분야에서 가장 안전에 중점을 둔 기업 중 하나로서의 Anthropic의 명성을 시험하는 결과입니다. 펜타곤 계약을 잃고(그리고 공식적으로 공급망 위험 대상으로 지정됨)는 회사가 다른 미국 방위 파트너들과 협력하는 능력을 심각하게 제한할 수 있습니다...
