PGP에서 신화까지: 누구도 막지 못한 수출 통제의 간략한 역사

지난 금요일, 백악관은 불특정 국가안보 우려를 언급하며 인류의 질서 강력한 Fable 및 Mythos AI 모델의 수출을 미국 이외의 모든 사람과 미국 내 외국인으로 제한합니다. 얼마 지나지 않아 AI 거인은 서둘러 두 모델의 플러그를 뽑았으며 일주일 동안 더 이상 누구에게도 사용할 수 없습니다.

이 에피소드는 미국 정부가 이전에 암호화와 스파이웨어를 억제하기 위해 시도한 것과 동일한 방식으로 수출 통제를 사용하여 국경 AI를 억제할 수 있는지에 대한 최초의 실제 테스트입니다. 결과는 매우 엇갈립니다. 그리고 극적으로 보일 수도 있지만 이러한 교착 상태가 어떻게 해결되는지는 Anthropic의 해외 시장 접근뿐만 아니라 다른 AI 연구소가 구축해야 할 규칙집을 형성할 수도 있습니다.

먼저 몇 가지 맥락을 살펴보세요. Anthropic이 지난 4월 Mythos를 출시한 이후회사에서는 다음과 같이 마케팅했습니다. 일종의 사이버네틱 종말 기계 너무 널리 퍼지면 인터넷에 큰 피해를 줄 수 있기 때문에 금지 조치가 시행되기 전에 약 150개 기업과 정부기관만 조사 전혀 접근할 수 없었습니다. 목표는 악의적인 행위자가 신화와 같은 기능을 달성하기 전에 방어자가 소프트웨어와 서비스를 보호할 수 있도록 돕는 것이었습니다.

그렇다면 금지의 원인은 무엇입니까? 보도에 따르면 두 가지 후속 이벤트가 있습니다. 첫 번째: Anthropic은 제한된 파트너 프로그램을 통해 한국 통신 회사에 Mythos에 대한 액세스 권한을 부여했고, 미국 관리들은 이 회사가 중국과 관련이 있다고 의심되는 회사임을 확인한 후 경각심을 느꼈습니다. (회사는, 널리 보도됨 SK텔레콤이 되었습니다. 거부됨 중국과의 관계). 아마존 CEO 앤디 재시(Andy Jassy)도 의혹을 받고 있다. 행정부에 경고했다 그는 Amazon 자체 연구원들이 Fable 5의 보호 장치를 우회하는 방법을 찾은 후 말했다. Anthropic은 “탈옥” 라벨에 대해 이의를 제기하며 모델의 보안 조치가 완전히 무효화되기보다는 제한적이고 이미 패치된 문제라고 부릅니다.

결과는 같았습니다. 상무부는 수출 통제 지침을 내렸고, 일부 계정에 따르면 Anthropic은 통지를 받은 지 약 90분 후에 즉시 제품에 대한 접근을 제한하기 위해 안간힘을 써야 했습니다.

그러나 이것은 새로운 것이 아닙니다. 정부는 수십 년 동안 위험한 사이버 기술의 확산을 제한하기 위해 수출 통제를 사용해 왔지만 그 기록은 기껏해야 평범했습니다.

미국 정부는 아마도 1990년대 초반과 중반에 이러한 접근 방식에서 역사상 가장 극적인 실패의 배후에 있었을 것입니다. 당시 컴퓨터 과학자들은 인터넷을 통해 이동하는 데이터를 보호하기 위한 암호화 기술을 개발하고 있었습니다. 그러한 암호화 제품 중 하나는 Pretty Good Privacy(PGP)라고 불리는 것으로, 데이터를 암호화하고 인터넷을 통해 수신자에게 이동하는 동안 데이터가 가로채더라도 해독이 사실상 불가능하게 만드는 널리 사용되는 소프트웨어입니다.

처음에 미국 정부는 PGP를 위험한 무기로 간주했습니다. PGP가 정보 기관의 이메일 감시를 방해할 것을 우려했기 때문입니다. 미국 관세청은 PGP 배포를 중단하기 위해 범죄 수사에 착수하다 무기 수출 통제를 위반한 혐의로 PGP 제작자 Phil Zimmermann을 상대로. 그는 PGP 소스 코드를 공개함으로써 자신을 변호했습니다. 인쇄된 책처럼현재 “암호화폐 전쟁”으로 알려진 것을 촉발시켰습니다.

Zimmermann은 조사가 종료되었을 때 중요한 전투에서 승리하여 수십억 명의 Signal 및 WhatsApp 사용자가 사용하는 것과 같은 중요한 엔드투엔드 암호화 알고리즘의 기반을 마련했습니다.

이후 2010년대 초에 연구자들은 중동의 반체제 인사를 대상으로 사용되는 서구에서 제작된 스파이웨어를 발견하기 시작했습니다. 이에 대응하여 여러 정부는 확장에 동의했습니다. 바세나르 협정민간 및 군사 응용 분야 모두에 사용되는 이중 용도 소프트웨어 및 기술의 수출을 제한하는 국제 조약입니다.

감시 및 해킹 소프트웨어를 이중 용도로 분류하여 스파이웨어 제작자가 제품을 해외에 판매하려면 수출 라이센스를 취득하도록 하는 것이 아이디어였습니다.

그러나 바세나르에는 항상 두 가지 본질적인 약점이 있었습니다. 세계에서 가장 활동적인 스파이웨어 제조업체의 본거지인 이스라엘을 포함하여 이 협정을 준수하지 않는 여러 국가가 있습니다.

이 협정은 또한 자국의 재량에 따라 자국 국경 내 기업에 이를 적용하는 국가에 따라 다릅니다. 이탈리아 정부는 한동안 이탈리아 최고의 스파이웨어 제조업체 중 하나인 해킹 팀(Hacking Team)이 스파이웨어를 판매한 이력에도 불구하고 도구를 전 세계로 수출할 수 있는 라이선스를 허용했습니다. 억압적인 정부 저것 나는 그것을 사용했다 언론인과 인권 운동가를 해킹합니다.

그 이후로, 다른 국가 유럽에서는 이탈리아와 같은 스파이웨어 제조업체에 대해 느슨했습니다. 수많은 스캔들에도 불구하고 유럽은 많은 스파이웨어 및 해킹 도구 제조업체가지다 계속해서 스파이웨어 수출을 막는데 실패했습니다. 권위주의 정권에. 비평가들은 권위주의 국가에 스파이웨어가 수출되는 문제를 해결하기 위해 27개 회원국이 최근 새롭게 시도한 노력이 “충분히 진행되지 않는다”고 말합니다.

승인된 스파이웨어 회사 컨소시엄인 Intellexa와 같은 몇몇 스파이웨어 제조업체는 수출 통제가 느슨한 국가로 사업장을 이전했습니다. 다른 스파이웨어 제조업체도 비슷한 이유로 사우디아라비아로 사업장을 이전하려고 시도했습니다.

몇 가지 승리가 있었습니다. 독일의 스파이웨어 제조업체 FinFisher 2022년에 폐쇄 독일 검찰이 회사에 대해 다년간의 조사 끝에 스파이웨어를 판매하는 것으로 추정됨 수출 허가 없이 투르키예에. 연구원들은 이전에 FinFisher 스파이웨어가 휴대폰에 구현 터키 정부를 비판하는 사람들.

이 글을 쓰는 시점에서 Anthropic과 Trump 행정부 사이의 교착상태는 계속되고 있습니다. 행정부가 미국 AI 기업이 전 세계적으로 경쟁력을 유지하기 위해 제한을 완화하고 해제할 합리적인 가능성이 있습니다. 이는 중국을 포함한 다른 곳의 AI 연구소가 미국 제한과 관계없이 유사한 역량을 달성할 가능성이 있다는 암묵적인 인식에 해당합니다. 또는 미국 AI 회사는 외국 고객에게 서비스를 제공하기 전에 결국 정부 승인을 받아야 할 수 있으며, 이는 항상 순익에 해를 끼치는 규정 준수 부담입니다.

전 세계 정부가 소프트웨어 범위를 통제하려고 시도한 과거 경험을 고려할 때, 정부가 위임한 수출 통제는 악의적인 행위자가 강력한 이중 용도 사이버 기술을 남용하는 것을 방지하는 올바른 접근 방식이 아닐 것입니다.