최근 인류 두 가지 최신 AI 모델의 플러그를 뽑았습니다. 트럼프 행정부의 수출 통제 명령으로 인해 AI 정책에 대한 광범위한 논쟁이 촉발되었으며, 디지털 주권.
의 마지막 에피소드에서는 TechCrunch 주식 팟캐스트Sean O’Kane, Rebecca Bellan과 저는 Anthropic에 대한 행정부의 조치를 실제로 추진한 것이 무엇인지, 그리고 이것이 더 넓은 AI 생태계에 어떤 의미를 가질 수 있는지 논의합니다.
Sean이 말했듯이, “Anthropic은 다른 주요 AI 연구소와 구별되는 방식으로 Trump 행정부와 최고의 관계를 유지하지 못했습니다.” 따라서 Anthropic의 다른 라이벌도 유사한 단속을 걱정할 필요가 없을 것입니다.
그러나 Rebecca는 또한 선도적인 사이버 보안 전문가들이 “트럼프 대통령에게 명령 취소를 요청하는 공개 서한에 서명그리고 그들은 미국의 네트워크 방어자들로부터 이러한 고급 사이버 보안 기능을 빼앗아 가는 것이 실제로 위험하다고 말합니다.”
그리고 우리는 이 모든 것이 Anthropic에 대한 좋은 홍보로 이어질 수 있는지 궁금합니다. 특히 Rebecca의 말에 따르면 “모든 사람은 나쁜 소년을 사랑합니다.”
길이와 명확성을 위해 편집된 대화의 미리보기를 읽어보세요.
레베카 벨란: 많은 청취자들이 알고 있듯이 미국 정부는 기본적으로 Anthropic에게 두 가지 최신 모델인 Fable 5의 플러그를 뽑도록 강요했으며, 그 후 현재 Mythos 사용자가 사용할 수 있는 Mythos 5도 출시되었습니다. [whereas] Fable 5가 대중에게 더 많이 공개되었습니다.
그들은 편지를 보냈어요 [last] 금요일에는 “국가 안보 문제”를 언급했습니다. 그 우려가 무엇인지는 아무도 모릅니다. 그 보고서는 공개되지 않았으며 세부 사항을 제공하지 않았으며 다음과 같이 말했습니다. [Anthropic] 그들은 그 모델을 외국 시민이 사용할 수 없도록 해야 했습니다. 그래서 Anthropic은 “좋아, 누가 외국인인지 모르기 때문에 모델을 완전히 없애야 할 것 같다. 우리 직원 중 상당수가 외국인이다”라고 말했습니다.
그런데 정말, [reports said] 백악관은 일부 Amazon 연구원이 Fable 5의 보안 장벽을 우회할 수 있는 방법을 찾았기 때문에 이에 대해 경고를 받았습니다. Amazon CEO Andy Jassy는 백악관에 이러한 우려를 제기했습니다.그리고 거기서부터 모든 것이 급등하기 시작했습니다.
션 오케인: 특히 주말 금요일 오후에는 이 모든 것이 매우 빠르게 진행되었습니다. 그리고 동시에 행정부는 이란에서 시작된 전쟁을 위해 일종의 조약을 협상하려고 시도한 것으로 보입니다.
카디건: 뉴욕의 금요일 오후. 그들은 산만함을 좋아합니다.
BE: 잠시 많이 백업해두자. Anthropic은 다른 주요 AI 연구소와 구별되는 방식으로 트럼프 행정부와 최고의 관계를 맺지 못했습니다. 나는 여기에 적어도 그 요소가 작용하고 있다고 생각합니다.
그렇다면 이것이 다른 회사에도 영향을 미칠 것이라고 생각하십니까? 트럼프 행정부가 경쟁업체 중 하나에 대한 수돗물을 차단할 의향이 덜할 것이라고 생각하십니까?
안토니오 하: 여기서의 맥락 중 일부는 보고와 독립적인 보안 전문가의 분석 Anthropic의 실제 보안 위험이 그다지 고유한 것은 아니라는 점을 시사합니다. 그래서 이 중 많은 부분이 트럼프 행정부와 인류학의 두 부분에서 나오는 것으로 보입니다. [not getting] 아주 잘 입어요. 어떤 위험이 있더라도, 서로 민사 통화가 안 되는 것 같다는 이유만으로 그런 것들은 터무니없이 폭발할 것이다.
당신이 다른 회사라면 한편으로는 그것이 당신에게 유리할 수도 있습니다. 왜냐하면 “글쎄, 우리는 이 사람들을 우리에게 화나게 하지 않고 우리가 원하는 것은 무엇이든 할 수 있습니다.”라고 말할 수 있기 때문입니다. 그러나 이는 단순히 규제에 대한 훌륭한 그림은 아닙니다. [say]“얘야, 그 사람들이 우리에게 화를 내지 않았으면 좋겠어.”
카디건: 한편으로는 확실히 보복처럼 느껴집니다. 정부가 Anthropic을 공급망 위험이라고 부른 후 그들 사이에서 대규모 소송이 진행되고 있는데 실제로 백악관은 Anthropic을 공격할 핑계를 찾고 있는 것 같습니다. 그리고 나는 그것이 나의 초기 반응이었을 뿐만 아니라 많은 사이버 보안 연구원들이 말한 것 때문에 그렇게 느꼈습니다. 그들은 이것이 수출 통제를 촉발해서는 안 된다고 말합니다. [order]. 그들은 모두 트럼프에게 명령 철회를 요청하는 공개 서한에 서명했으며, 미국의 네트워크 방어자들로부터 이러한 고급 사이버 보안 기능을 제거해야 하는 것은 실제로 위험하다고 말했습니다. Anthropic 자체는 동일한 탈옥 중 일부가 다른 여러 AI 모델에서도 발견될 수 있다고 말했습니다.
냉소적으로는 다음과 같습니다. 다른 사람들이 Anthropic을 따라잡을 수 있도록 Anthropic을 일시 중지하는 것인가요?
하지만 동시에 다음과 같은 반응도 보았습니다. [say]: 인류는 그것을 기대했습니다. 그들은 “이것은 누구에게나 사용하기에는 너무 위험하지만 우리는 그렇지 않습니다. 우리는 좋은 사람들입니다.”라고 말합니다. 그들은 입 양쪽으로 말하고 있습니다. Fable이 나오기 일주일 전, 그들은 [saying]”야, AI 속도를 늦춰야 해, 얘들아. 정말 위험해지고 있어.” 하지만 이내 붐이 일어납니다. “여기 우리의 가장 미친, 가장 강력한 모델이 완성되었습니다.”
안토니오: 어떤 면에서 이것은 Sam Altman과 Jensen Huang과 같은 사람들이 참여하는 AI 논쟁의 축소판처럼 보입니다. [saying]”야, 온도 좀 낮추자. 왜 다들 우리한테 화났어?” 글쎄요, 당신은 지난 2년 동안 우리 모두의 일자리를 앗아갈 이 신성한 기계를 만들었다고 말하면서 보냈습니다. 사람들이 이것에 대해 기분이 좋지 않다는 것은 놀라운 일이 아닙니다.
특히 Anthropic이 Mythos에 관해 이야기하는 방식에는 뭔가가 있습니다. 그들은 “이것은 지금까지 만들어진 모델 중 가장 믿을 수 없을 정도로 강력한 모델입니다. 대중에게 공개하기에는 너무 위험합니다.”라고 말합니다. 그래서 어느 정도는 [you say,] “글쎄, 그렇다면 우리가 그것을 진지하게 받아들인다고 가정해보자. 그것은 그것에 대해 믿을 수 없을 만큼 정밀한 조사가 있을 것이라는 것을 의미한다.”
그리고 저는 궁금합니다. Anthropic은 이에 대해 만족하지 않는 것 같습니다. 나는 이것이 그들에게 어떻게 유익할 수 있는지 과장하지 않도록 주의하고 싶습니다. 그러나 우리는 램프 분석에 대한 몇 가지 기사도 발표했습니다. Anthropic과 Trump 행정부 사이의 마지막 큰 단절이 회사에 유익했다는 사실을 강조하십시오.적어도 어떤 면에서는요. 클로드의 발리슛이 터졌습니다. ChatGPT를 생각했던 많은 사람들이 그 챗봇, 그 이전에는 AI 어시스턴트가 갑자기 클로드를 가장 책임감 있고 가장 “강인함”을 지닌 사람으로 바라보게 되었습니다.
그리고 같은 방식으로, [while] Anthropic은 이것에 대해 매우 강조하고 있으며, 이는 그들의 모델을 더욱 강력하게 보이게 만들 수 있습니다.
카디건: 분명히. “우리는 매우 위험해요.” 다들 나쁜 남자를 좋아하잖아요? 모두가 “가장 강력한 모델이다. 트럼프도 그렇게 말한다. 물론 손에 넣어야 한다”고 말한다.
기사에 포함된 링크를 통해 구매하시면, 우리는 소액의 수수료를 받을 수도 있습니다. 이는 당사의 편집 독립성에 영향을 미치지 않습니다.