저는 최근 Google Cloud의 COO인 Francis de Souza와 함께 무대 뒤에서 마주 앉을 기회가 있었습니다. 이벤트 로스앤젤레스에서. 주변의 소음 속에서도 대학 교수의 차분하고 절제된 목소리로 말하는 드 수자(de Souza)는 우리 모두가 겪고 있는 AI 보안의 순간을 헤쳐나가는 기업들에게 “과도기가 있을 것이고, 그러면 우리는 더 나은 위치에 도달할 것이라고 생각한다”고 언급하며 유용한 조언을 제공했습니다.
당시에는 Google에 대해 이야기하고 있지 않았지만 Google조차도 여전히 상황을 파악하고 있는 것이 분명합니다.
De Souza의 핵심 메시지는 보안 전문가들이 경영진이 수년간 내부화하도록 노력해 왔으며 이제는 AI가 시급해졌기 때문에 보안을 나중에 고려할 수 없다는 것이었습니다. 그는 “기업이 AI를 향한 여정을 시작하면서 플랫폼 접근 방식을 취해야 한다”고 말했습니다. “보안은 나중에 구현할 수 있는 것도 아니고 직원들이 스스로 하도록 놔둘 수도 없는 일입니다.” 그는 구체적으로 “그림자 AI”(조직의 감독 없이 소비자 도구를 찾는 직원)에 대해 경고하고 기업이 처음부터 플랫폼의 보안, 거버넌스 및 감사 가능성을 요구해야 한다고 주장했습니다. “데이터 전략과 보안 전략 없이는 AI 전략도 없습니다. 이 전략은 함께 병행되어야 합니다.”
주목할 만한 점은 제가 혼자 Google Cloud를 출시한 것이 아니라는 것입니다. 그의 조언이 구글 광고처럼 들린다는 사실을 내가 알았을 때 그는 물러섰다. 그는 구글이 멀티 클라우드 접근 방식에 전념하고 있으며 단일 클라우드에서 운영되고 있다고 생각하는 기업은 거의 확실하지 않다고 주장했습니다. 그는 “단일 클라우드를 선택하고 SaaS 애플리케이션에 의존하더라도 다른 클라우드를 사용하는 비즈니스 파트너가 있을 수 있다”고 말했다. “기업에서는 모든 클라우드와 모든 모델에 걸쳐 일관된 보안 태세를 갖추는 것이 중요합니다.”
그는 또한 위협 환경이 근본적으로 변화하여 기존 방어 모델이 너무 느리다고 주장했습니다. 그는 초기 침해부터 공격의 다음 단계로 넘어가기까지의 평균 시간이 8시간에서 22초로 단축되었으며 공격 표면이 기존 네트워크 경계를 훨씬 넘어 확장되었다고 언급했습니다. “일반적인 자산 외에도 이제 모델이 있습니다. 모델을 교육하는 데 사용되는 데이터 파이프라인이 있습니다. 에이전트와 프롬프트가 있습니다. 이 모든 것을 보호해야 합니다.”
de Souza는 충분히 주의를 끌지 못하는 위협 중 하나를 지적했습니다. 회사의 내부 시스템을 이동하는 에이전트는 수년 동안 아무도 생각하지 못했던 잊혀진 데이터 저장소를 발견할 수 있다는 것입니다. “많은 조직이 오래된 SharePoint 서버를 보유하고 있습니다. [and access controls] 실제로 업데이트되지는 않았지만 그것이 어디에 있는지 실제로 아는 사람이 아무도 없었기 때문에 그것은 중요하지 않았습니다. 하지만 회사를 돌아다니는 에이전트는 그러한 데이터 자산을 찾아서 노출할 것입니다.”
그의 생각에 대답은 기계의 속도를 기계의 속도에 맞추는 것입니다. 그는 “우리는 이제 조직이 방어를 추진하는 에이전트를 실행할 수 있는 완전히 에이전트적인 AI 기반 방어의 출현을 보고 있습니다”라고 말했습니다. “사람이 주도하는 방어나 심지어 사람이 알고 있는 대신, 이제 인간이 완전한 에이전트 방어를 감독하도록 할 수 있습니다.” 그는 이것이 단지 기술적인 문제가 아니라 리더십 문제가 되었다고 덧붙였습니다. “이것은 이사회와 경영진의 문제입니다. 단순한 보안팀의 문제가 아닙니다.”
그러나 AI가 더 큰 방어 작업량을 맡더라도 이를 감독할 자격이 있는 사람은 드물고, AI 자체로 인해 발생하는 취약점은 보안 팀이 해결할 수 있는 것보다 빠르게 증가하고 있습니다. LinkedIn의 최고 정보 보안 책임자인 Lea Kissner는 “버그 대재앙을 처리할 사람들이 필요합니다.”라고 말했습니다. 뉴욕타임스에 말했다 이번 주에 그는 업계가 AI 안전을 적어도 몇 년 동안은 장기적이고 지속 가능한 방식으로 이해하기를 기대하지 않는다고 덧붙였습니다.
플랫폼 제공자 자체에 대한 이야기로 돌아갑니다. The Register는 지난 몇 주 동안 Gemini 모델에 대한 승인되지 않은 API 호출로 인해 많은 Google Cloud 개발자가 5자리 청구서에 타격을 입었다는 것을 기록한 일련의 보고서를 발표했습니다. 이들 중 다수는 한 번도 사용하지 않았거나 의도적으로 활성화한 서비스입니다. 사례는 익숙한 패턴을 따랐습니다. 원래 Google 지도용으로 구현되어 Google 자체 지침에 따라 공개적으로 배치된 API 키는 Google이 변경 사항을 명확하게 공개하지 않고 범위를 확장한 후 조용히 Gemini에 액세스할 수 있게 되었습니다.
인터뷰 준비 플랫폼 프렌투스(Prentus)의 CEO 로드 다난(Rod Danan)은 청구서가 나왔다고 말했다. 약 30분에 $10,138 공격자가 손상된 API 키를 악용한 후. 마찬가지로 계정이 손상된 시드니에 거주하는 개발자인 Isuru Fonseka는 자신의 지출 한도가 250달러라고 믿었음에도 불구하고 약 A$17,000의 요금을 청구당했습니다. 두 사람 모두 Google의 자동화 시스템이 계정 기록을 기반으로 청구 수준을 높여 명시적인 동의 없이 유효 한도를 최대 100,000달러까지 올렸다는 사실을 몰랐습니다.
Google은 The Register가 최초 보고서를 발표한 후 두 가지 모두를 환불했습니다. 그럼에도 불구하고 구글은 The Register에 자동 계층 업그레이드 정책을 변경할 계획이 없으며 사용자가 명시한 예산 선호 사항을 시행하는 것보다 서비스 중단을 방지하는 것을 우선시한다고 밝혔습니다.
한편, 개발자가 작업을 종료하려고 하면 어떻게 되는지에 대한 별도의 질문이 있습니다. 레지스트리 이번주에 보고됨 보안 회사인 Aikido의 연구에 따르면 손상된 키를 감지하고 즉시 삭제하는 개발자도 안전하지 않을 수 있는 것으로 나타났습니다. Aikido의 조사 결과에 따르면, Google의 철회가 인프라 전체에 점진적으로 확산되기 때문에 공격자는 해당 키를 최대 23분 동안 계속 사용할 수 있는 것으로 보입니다. Aikido 연구원인 Joseph Leon은 The Register에 해당 기간 동안 성공률은 예측할 수 없으며(몇 분 안에 요청의 90% 이상이 여전히 인증됨) 공격자는 이 시간을 활용하여 Gemini에서 캐시된 파일과 대화 데이터를 추출할 수 있다고 말했습니다.
Leon은 또한 Google의 최신 자격 증명 형식에는 동일한 문제가 없는 것 같다고 언급했습니다. 서비스 계정 API 자격 증명은 약 5초 만에 취소되고 Gemini의 새로운 AQ 접두사 키 형식은 약 1분 정도 걸립니다. 그는 아이키도 관련 기사에서 “둘 다 구글 규모로 작업한다”고 썼다. “두 가지 모두 Google API 키에 대해서도 기술적으로 해결될 수 있음을 시사합니다.” 요약하자면, León에 따르면 23분이라는 시간은 엔지니어링상의 한계가 아니라 회사의 우선순위 문제입니다.
De Souza의 조언을 읽을 때 고려해 볼 가치가 있으며 이는 합리적이고 매우 진지하게 받아들여야 합니다. 틀린 말은 아니지만, 현재 그들이 처방하는 플랫폼과 적응 속도 사이에는 격차가 있으며, 이 점도 알아두는 것이 좋습니다.
기사에 포함된 링크를 통해 구매하시면, 우리는 소액의 수수료를 받을 수도 있습니다. 이는 당사의 편집 독립성에 영향을 미치지 않습니다.