미국 입법자들, OpenAI가 독단적으로 변한 후 AI '킬 스위치' 도입을 추진하다

초당적 의원 두 명이 AI 무기를 처치하는 법안을 미국 의회에 제출했습니다. 민주당 하원의원 테드 리우와 공화당 하원의원 네이선리얼 모란은 최근 OpenAI 모델들이 문제를 일으킨 후 AI 킬 스위치 법안이 법으로 통과되길 원한다고 말했습니다.

"AI는 계속 발전할 것이고, 그래야 한다. "관리란 인간이 우리가 만드는 기술을 통제할 수 있는 능력을 유지하는 것을 보장하는 것이다"라고 모란은 BBC 뉴스를 통해 말했다. 킬 스위치 법안은 국토안보부에 민간 기업에 AI 모델이나 도구를 종료하라고 명령할 권한을 부여한다. 또한 AI 기업들이 "이를 제한하거나, 정지시키거나, 종료할 수 있는 기술적 역량"을 유지해야 한다고 요구할 것입니다.

OpenAI는 최근 일부 모델이 악기로 변해 주요 코딩 정보 저장소를 해킹했다고 인정했습니다. OpenAI 대표들은 즉각적인 논평에 응하지 않았습니다. 현재 미국에서 AI 모델을 만드는 회사들은 미국 정부와 도구를 미리 공유하고 공유하기로 합의했지만, 이들을 위한 킬 스위치가 필요하다는 의무는 없습니다. 새 법안이 통과되면 이 상황이 바뀔 것입니다. 또한, 이 법은 AI 기업들이 사건과 실패를 정부에 보고하고, 기업이 이러한 사고에 어떻게 대응하는지에 대한 공식적인 체계를 제공하도록 합니다.