듣고 싶은 사람이 있다면 AI 로드맵

워싱턴과 Anthropic의 결별은 인공지능을 지배하는 일관성 있는 규칙이 전혀 없음을 드러냈지만, 양당 사상가 연합은 정부가 지금까지 생산을 거부했던 것, 즉 책임감 있는 AI 개발이 실제로 어떤 모습이어야 하는지에 대한 프레임워크를 구성했습니다.

그 친인간적 선언 지난 주 국방부-인류학 대결 이전에 마무리되었지만 두 사건의 충돌은 관련된 누구도 눈치 채지 못했습니다.

이 노력을 조직하는 데 도움을 준 MIT 물리학자이자 AI 연구원인 Max Tegmark는 “지난 4개월 동안 미국에서 매우 놀라운 일이 일어났습니다.”라고 말했습니다. 대화 중 이 편집자와 함께. “갑자기 여론조사가 [is showing] 모든 미국인의 95%는 초지능을 향한 규제되지 않은 경쟁에 반대합니다.”

수백 명의 전문가, 전직 공무원, 공인이 서명한 새로 공개된 문서는 인류가 갈림길에 서 있다는 합리적인 관찰로 시작됩니다. 성명서에서 “대체를 위한 경쟁”이라고 부르는 한 가지 경로는 무책임한 기관과 기계에 권력이 축적됨에 따라 인간이 먼저 노동자로, 그 다음에는 의사 결정자로 대체되는 결과를 낳습니다. 다른 하나는 인간의 잠재력을 크게 확장하는 AI로 이어집니다.

후자의 시나리오는 인간의 책임 유지, 권력 집중 방지, 인간 경험 보호, 개인의 자유 보존, AI 기업에 법적 책임 부여라는 5가지 핵심 원칙에 따라 달라집니다. 가장 강력한 조항 중 하나는 초지능 개발이 안전하고 민주적으로 수용될 수 있다는 과학적 합의가 있을 때까지 초지능 개발을 절대적으로 금지하는 것입니다. 강력한 시스템의 강제 종료; 자체 복제, 자율적 개선 또는 폐쇄에 대한 저항이 가능한 아키텍처를 금지합니다.

성명 발표는 그 긴급성을 훨씬 더 쉽게 인식할 수 있는 기간과 일치합니다. 2월 마지막 금요일, Pete Hegseth 국방장관은 AI가 이미 기밀 군사 플랫폼에서 실행되고 있는 Anthropic을 “공급망 위험”으로 지정했습니다. 회사가 국방부에 해당 기술의 무제한 사용 권한을 거부한 후, 일반적으로 중국과 관련된 회사에 부여되는 라벨입니다. 몇 시간 후 OpenAI는 국방부와 자체 합의에 도달했는데, 법률 전문가들은 의미 있는 방식으로 이를 시행하기 어려울 것이라고 말합니다. 이 모든 것이 드러난 것은 AI에 대한 의회의 무활동으로 인해 얼마나 많은 비용이 발생했는지입니다.

미국혁신재단(Foundation for American Innovation)의 선임연구원인 딘 볼(Dean Ball)은 다음과 같이 말했습니다. 뉴욕타임스에 말했다 이어 “이것은 단순한 계약 분쟁이 아니다. 국가 차원에서 AI 시스템 통제에 관해 나눈 첫 번째 대화다”라고 말했다.

Tegmark는 우리가 대화할 때 대부분의 사람들이 이해할 수 있는 비유를 사용했습니다. 그는 “일부 제약회사가 사람들이 안전하게 만드는 방법을 알아내기 전에 막대한 피해를 일으키는 다른 약품을 출시할 것이라고 걱정할 필요가 없습니다. 왜냐하면 FDA는 충분히 안전할 때까지 어떤 약품도 출시하도록 허용하지 않기 때문입니다.”라고 말했습니다.

워싱턴의 세력다툼은 법을 바꾸는 대중적 압력을 거의 일으키지 않습니다. 대신, Tegmark는 어린이 안전을 현재의 난관을 깨뜨릴 가능성이 가장 높은 압박 지점으로 보고 있습니다. 실제로 성명서는 자살 충동 증가, 정신 건강 상태 악화, 정서적 조작 등의 위험을 다루는 AI 제품(특히 젊은 사용자를 대상으로 하는 챗봇 및 동반 앱)의 배포 전 테스트를 의무화할 것을 요구하고 있습니다.

Tegmark는 “만약 소름끼치는 노인이 11세 소년에게 소녀인 척 문자를 보내 자살을 권유한다면 그 소년은 감옥에 갈 수 있다”고 말했다. “우리에겐 이미 법이 있습니다. 불법입니다. 그런데 기계로 처리한다면 왜 다를까요?”

그는 일단 어린이용 제품의 출시 전 테스트 원칙이 확립되면 그 범위는 거의 필연적으로 확대될 것이라고 믿습니다. “사람들이 와서 몇 가지 다른 요구 사항을 추가하자고 말할 것입니다. 어쩌면 우리는 이것이 테러리스트들이 생물학 무기를 만드는 데 도움이 되지 않는지 테스트해야 할 수도 있습니다. 어쩌면 우리는 초지능이 미국 정부를 전복시킬 능력이 없는지 확인하기 위해 테스트해야 할 수도 있습니다.”

스티브 배넌 전 트럼프 보좌관, 수잔 라이스 오바마 대통령 국가안보보좌관, 마이크 멀렌 전 합참의장, 진보 종교지도자들이 같은 문서에 서명한 것은 결코 작은 일이 아니다.

“물론 그들이 동의하는 것은 모든 사람이 인간이라는 것입니다.”라고 Tegmark는 말합니다. “우리가 인간의 미래를 원하는지, 기계의 미래를 원하는지에 대한 문제라면 당연히 둘 다 같은 편에 서게 될 것입니다.”