AI 산업 전반에 걸쳐 사용자는 구현 비용이 얼마나 비쌀 수 있는지 점점 더 인식하고 있으며 비용 절감에 대한 새로운 긴급성을 느끼고 있습니다. 그러나 오픈 소스 모델은 토큰당 훨씬 낮은 비용을 제공하지만 특정 작업에 적합한 모델을 찾는 것이 어려울 수 있습니다.
목요일에는 작가마케팅 담당자를 위한 인공 지능 도구와 에이전트를 제공하는 Palmyra X6는 사용자의 문제 해결을 목표로 하는 새로운 주력 모델을 출시했습니다. Z.ai의 오픈 소스 GLM-5.2 모델의 교육 후 변형으로 만들어진 Writer는 새로운 시스템이 훨씬 저렴한 가격으로 배포 준비 기능을 제공해야 한다고 말합니다. 회사는 새로운 모델이 회사의 운영 인프라 변경과 결합되어 기본 작업에 대한 고객의 비용을 최대 50%까지 절감할 것으로 추정합니다.
새로운 모델과 함께 회사는 표준 에이전트 하네스에 대한 주요 개선 사항도 출시했습니다. 두 기능 모두 목요일부터 Writer 고객에게 제공됩니다.
May Habib CEO는 TechCrunch에 “회사가 다음 벤치마크를 추구하는 데 완전히 지쳐 있다고 생각합니다.”라고 말했습니다. “그들은 비용을 낮추고 싶어하는데 누구도 그렇게 할 수 없는 것 같습니다.”
새로운 접근 방식은 더 적은 토큰으로 더 빠르게 실행되는 복잡한 다단계 작업에 특히 중점을 둡니다. 그리고 Writer는 레버리지 최적화를 이를 실현하는 중요한 수단으로 보고 있습니다.
작가 연구원의 최근 기사 다양한 모델에서 하네스 효율성의 작은 변화를 테스트하여 이 접근 방식에 대한 신뢰를 얻었습니다. 연구에 따르면 하네스 변경은 모델 선택보다 비용을 절감하는 더 안정적인 방법인 경우가 많으며 모든 테스트에서 비용이 평균 40% 감소하는 것으로 나타났습니다.
연구진은 “하네스는 현재와 미래에 조직이 운영하는 모든 모델에서 효율성이 배가되는 유일한 구성 요소”라고 썼습니다.
Writer 고객의 경우 경험은 모델에 구애받지 않습니다. Palmyra X6은 Azure 또는 Amazon Bedrock을 통해 가져온 다른 Writer 모델 또는 외부 모델과 함께 사용됩니다. 그러나 하비브는 또한 비용 절감 추진이 토큰 사용을 늘리기 위한 재정적 인센티브가 있는 주요 AI 연구소에 대한 불신을 더욱 확대하는 것으로 보고 있습니다.
Habib은 TechCrunch와의 인터뷰에서 “여기서 비용 폭발은 고객에게 전례 없는 일입니다. CIO가 연구소에 앞서는 정도도 마찬가지입니다. AI 연구소는 회사가 AI의 이점을 실현하도록 돕는 방법을 깊이 이해하지 못하고 있습니다”라고 덧붙였습니다.
기사에 포함된 링크를 통해 구매하시면, 우리는 소액의 수수료를 받을 수도 있습니다. 이는 당사의 편집 독립성에 영향을 미치지 않습니다.