새로운 AI 모델은 코아 이번 주 대규모 Dreamforce 기술 컨퍼런스에서 Salesforce가 발표한 가장 큰 발표 중 하나입니다. Koa는 Nvidia를 기반으로 한 회사의 첫 번째 추론 모델입니다. 오픈웨이트 네모트론 모델. 두 회사는 함께 협력하여 Koa가 영업, 마케팅 및 고객 서비스 업무 분야에서 탁월한 능력을 발휘할 수 있도록 교육했습니다.
Koa는 비즈니스 세계의 AI 요구 사항이 최첨단 연구실에서 제공하는 것과 어떻게 다른지를 보여주는 빛나는 예입니다. 독점 AI 연구소는 기업이 파일, 코드, 프롬프트 및 피드백을 모델과 에이전트에 직접 업로드하는 것을 선호합니다. 그리고 수백만 달러를 지출 그것을하기 위해.
그러나 이 모델을 통해 Salesforce는 기업 고객에게 다음을 제공합니다.
- 폐쇄형 경계 모델에 대한 개방형 대안
- 특정 작업을 수행하도록 훈련된 모델입니다. 불가능한 수학 문제를 해결하다)
- 실제 고객 데이터를 수집하지 않았으므로 다른 사람에게 유출할 수 없습니다.
- 동일한 작업을 수행하는 데 더 적은 수의 토큰을 사용하여 AI 지출을 줄이는 데 도움이 되는 모델
- 필요에 따라 AI “게이트웨이”를 통해 자동으로 라우팅될 수 있는 것
- Salesforce에 내장된 고객의 모든 데이터 요구 사항과 보안을 따르는 모델입니다.
Koa는 Salesforce가 Agentforce 플랫폼에서 제공하는 다른 모델에 대한 대안으로 제공될 예정입니다. 여기서 고객은 고객 서비스 질문에 답변하거나 약속 예약과 같은 일상적인 작업을 처리하기 위해 에이전트를 생성합니다.
Salesforce AI의 부사장인 Jayesh Govindarajan은 TechCrunch에 “우리는 Agentforce 포트폴리오의 일부인 특정 작업을 위한 많은 작은 언어 모델을 만들었습니다.”라고 말했습니다. “하지만 추론은 항상 우리가 최첨단 모델 공급업체에 의존해 온 것이었습니다. 지금까지.”
Koa 이전에는 에이전트가 장기 실행 또는 다단계 작업을 통해 추론해야 하는 경우 해당 프롬프트는 Agentforce의 AI 게이트웨이(어떤 모델이 어떤 요청을 처리하는지 결정하는 시스템)를 통해 Claude 또는 ChatGPT와 같은 프론티어 모델로 라우팅되었습니다.
Govindarajan은 “이전에는 엔터프라이즈급 프론티어 모델을 훈련하는 것을 수행하지 않았던 이유 중 하나는 항상 그렇게 하고 싶었지만 처음부터 사전 훈련된 기본 모델이 없다는 것이 항상 문제였습니다. Nemotron이 등장하기 전까지는 사전 훈련된 미국 주권 모델이 없었습니다. 하나, 둘은 최첨단이었고 세 번째는 명확한 데이터 출처가 있었습니다. 우리는 Qwen이 무엇을 훈련하는지 전혀 모릅니다”라고 말했습니다. 중국산 오픈 웨이트 모델. 알리바바에 의해.
이와 같은 모델을 사후 훈련한다는 것은 범용 시스템에서 판매 및 고객 지원에 정통한 시스템으로 전환하는 것을 의미하며, 이를 위해 Salesforce와 Nvidia는 실제 Salesforce 고객 데이터를 사용하지 않았습니다. 대신 고객 패턴을 모방한 합성 데이터를 만들었습니다.
Govindarajan은 “우리는 실제로 고객 서비스 센터에 전화하는 화가 난 고객부터 거래를 성사시키려는 영업 전문가에 이르기까지 고객 서비스 전문가와 함께 고객 서비스 환경을 시뮬레이션합니다.”라고 설명했습니다.
Koa는 Salesforce 고객이 에이전트가 수행하기를 원하는 작업 작업을 Claude 또는 ChatGPT에 전송하는 것보다 더 효율적이고 토큰 소모 측면에서 더 저렴하도록 만들어졌습니다.
Nvidia의 엔터프라이즈 생성 AI 소프트웨어 부사장인 Kari Ann Briski는 Nemotron을 통해 “추론 토큰을 효율적으로 만드는 고유한 아키텍처를 보유하고 있습니다”라고 TechCrunch에 말했습니다. “주권적 AI, 첫 번째 토큰까지의 시간, 효율적인 추론, 모든 것의 토큰경제학이라는 세 가지 요소를 갖춰야 합니다.”
그러나 Salesforce가 Anthropic이나 OpenAI를 완전히 포기한 것은 아닙니다. 방금 Anthropic과 파트너십을 발표했습니다. 클로드포스(ClaudeForce)라고 불리는 이를 통해 기업은 Claude를 AI 인터페이스로 사용할 수 있으며, 데이터는 Salesforce의 기록 시스템에 남아 인프라에 의해 보호됩니다.
기사에 포함된 링크를 통해 구매하시면, 우리는 소액의 수수료를 받을 수도 있습니다. 이는 당사의 편집 독립성에 영향을 미치지 않습니다.