샘 알트먼(Sam Altman)은 인간이 아닌 AI가 결정을 내리는 미래에 대해 경고한다.

OpenAI 공동 창립자이자 CEO인 Sam Altman은 AI 기술이 세계와 모든 사람의 삶에 미치는 영향과 관련하여 미래를 책임져야 한다고 믿습니다. 뉴욕타임스에서 연설 딜 북 서밋 수요일에 AI 임원은 실리콘 밸리에서 AI로 점진적 전환—이는 결국 AI가 모든 주요 산업과 기관에서 의사 결정 권한을 갖게 될 것이라는 의미입니다.

OpenAI 공동 창업자이자 사장인 Greg Brockman과 함께 무대에 오른 Altman은 “최근에 우리가 많이 이야기해 온 것은 실리콘 밸리에 맞서 싸워야 할 거의 우스꽝스러워 보이는 무언가가 있었다는 것입니다. 하지만 우리 둘 다 사람들이 미래를 통제할 필요가 있다는 것을 깊이 믿고 있으며, 이런 종류의 점진적인 AI로의 전환이 있을 것이고 있어야 한다는 이야기가 점점 더 많아지고 있습니다. 그리고 저는 그것이 끔찍한 아이디어라는 데 동의합니다”라고 말했습니다.

핸드오버 이론은 AI 모델이 점점 더 강력해짐에 따라 “재귀적 자기 개선” 또는 RSI로 알려진 개념인 스스로 개선하는 방법을 학습할 것이라는 생각에서 비롯됩니다. 기존 AI 기술이 더 새롭고 똑똑한 세대를 만들어내면서, 그들은 결국 인간이 더 이상 통제할 수 없는 초지능이 될 것이라고 믿어진다.

Altman은 그와 Brockman이 인간을 통제한다는 목표를 가장 잘 달성하는 방법이나 그 과정에서 우리가 직면하게 될 과제의 종류에 대해서만 의견이 일치하지 않는다고 설명했습니다. 그러나 Altman은 이것을 동일한 더 넓은 견해를 공유하는 두 사람 사이의 논쟁에 가깝다고 규정했습니다.

“실제로 예방하는 방법에 대한 질문 [handover] 이를 실현하기 위해 어떻게 해야 하는지, 모든 다양한 압력과 다른 회사가 시도할 수 있는 사항을 고려하여 우리는 사람들이 매우 심오한 방식으로 미래에 대한 통제권을 유지하도록 보장할 것이며 우발적이든 의도적이든 이 양도가 이루어지지 않도록 보장할 것이라는 점에 우리 둘 다 동의할 수 있다고 생각합니다.”라고 Altman은 말했습니다.

Brockman은 모델이 개선됨에 따라 정렬, 안전 및 보안에 대한 책임이 증가하고 있으며, 이로 인해 현재 작업이 수행되는 방식을 변경해야 할 수도 있다고 덧붙였습니다.

“모니터링은 새로운 기술이 필요하다고 생각되는 좋은 예입니다.”라고 그는 말했습니다.

오늘날 AI 연구자들은 AI가 문제를 해결하고 작업을 수행하는 동안 생각하는 것을 기록하는 모델의 사고 사슬을 모니터링합니다. 그러나 Brockman의 관점에서는 이것이 현재 구축되고 있는 고급 AI를 모니터링하는 최선의 방법이 아닐 수도 있습니다.

Brockman은 “모델의 능력이 향상됨에 따라 생각을 기록하지 않고도 앞으로 더 많은 일을 할 수 있습니다. 이는 새로운 모니터링 접근 방식이 필요하다는 것을 의미합니다”라고 말했습니다. “우리는 그것을 끝내야 할 것입니다. 그리고 우리가 정말로 생각해야 할 지점이 있을 것이라고 생각합니다. 역량이 특정 지점에 도달하면 사고의 모니터링 체인이 저하됩니다.”라고 그는 계속 덧붙였습니다. 모든 문제는 기술적이며 해결해야 한다고 덧붙였습니다.

OpenAI는 사고 사슬 추적을 늘리기 위해 노력했습니다. OpenAI 모델이 격리를 탈출하고 Hugging Face AI 모델 저장소를 해킹한 사건. 오늘 인터뷰에서 Brockman은 회사가 생산 엔지니어의 25%에게 해킹 이후 사물 제작을 중단하고 AI 기술을 보호하기 위해 노력하라고 지시했다고 언급했습니다.

그러나 세간의 이목을 끄는 위반에도 불구하고 그는 나쁜 행위자들과 싸우려면 진전이 여전히 중요하다고 주장했습니다.

그는 “전 세계 모델의 역량 수준을 살펴보고 현재 떠오르는 사이버 모델이… 모든 곳의 위협 행위자의 손에 있다는 것을 깨닫는다면 방어자가 자신을 방어하기 위해 가장 유능한 모델을 사용하는 것이 정말 중요하다고 생각합니다”라고 말했습니다.

당사 기사의 링크를 통해 구매하는 경우, 우리는 소액의 수수료를 받을 수도 있습니다. 이는 당사의 편집 독립성에 영향을 미치지 않습니다.