Nvidia의 독보적인 시장 지배 시대는 끝나지 않았지만 모든 방향에서 도전과 선택이 나타나고 있습니다.
ZML프랑스 패션 AI 스타트업 승인 Turing Award 수상자 Yann LeCun이 출시했습니다. 추론– 다음을 가능하게 하는 성능 소프트웨어 다양한 대규모 오픈 소스 언어 모델 에서 실행 다양한 감자튀김 – Nvidia, AMD, Google TPU, Apple Metal 및 Intel Arc 포함.
와 함께 ZML/LLMDZML 창립자인 Steeve Morin은 최근 출시된 LLM 추론 서버를 통해 기존 사일로를 무너뜨리고 AI 사용 사례에 다양한 칩을 사용할 수 있는 최대 속도, 때로는 더 빠른 속도로 제공하는 것이 회사의 목표라고 TechCrunch에 말했습니다.
AI가 우리의 업무와 일상 생활에 통합되면서 추론 최적화(즉시 처리라고도 함)가 더 빨라졌습니다. 모델 훈련 모린은 중요하지만 소프트웨어와 아키텍처 장벽으로 인해 공급업체가 종속되는 등 이면에서 고르지 못한 느낌을 주는 경우가 많다고 모린은 말했습니다.
다양한 칩에서 최대 성능을 달성하겠다는 약속은 기술적 위업이지만 AI 관련 비용에 대한 우려가 커지는 가운데 시장을 혼란스럽게 할 수도 있습니다.
ZML은 기업과 클라우드에 칩 조합을 사용할 수 있는 옵션을 제공하기를 희망하며, 그 중 일부는 더 저렴하거나 전력을 덜 소비할 수 있습니다. “사람들에게 자신만의 시스템을 만들 수 있는 권한을 부여하고 실질적인 효율성 향상을 달성할 수 있도록 하는 것이 아이디어입니다. [AI] 전파되어야 합니다.”라고 Morin은 말했습니다.
이러한 소프트웨어 지원은 유럽 출신의 새로운 AI 칩 제조업체에 도움이 될 수 있다고 Morin은 언급했습니다. 악셀레라, 깨지기 쉬운, 칼라이, 오릭스, 퀀트, 시펠라, 스핀클라우드그리고 VSORA. 그러나 출신 지역보다 그들에게 중요한 것은 ZML이 “전 세계 어디에서도 해본 적이 없는 일”에 대해 그들과 협력할 수 있다는 것입니다.
그렇다고 Morin이 Nvidia에 대해 약세를 보인다는 의미는 아닙니다. 그는 그렇지 않다부분적으로는 기존 제품으로 인해 발생합니다. 그는 TechCrunch에 ZML이 AI 칩 거대 기업과 좋은 관계를 맺고 있다고 말했습니다. 준비 중 추론의 출현을 위해.
추론은 투자가 집중되는 분야로, 이러한 추세는 “골드러시 추론.” 따라서 ZML에는 다음과 같은 경쟁이 있습니다. 바스텐최근 가치는 130억 달러로 평가되었습니다. 불완전하다오픈 소스 프로젝트 제작자로부터 vllm; 게다가 기수아크그 SGLang 뒤에 있는 상업 회사.
vLLM과 SGLang은 모두 부분적으로 LLMD와 경쟁하지만 ZML에 대한 Morin의 야망은 더 넓은 범위를 포괄합니다. “우리는 실리콘을 공동 설계하는 단계에 이르렀습니다.”라고 그는 말했습니다. 또한 그는 파리에 본사를 둔 스타트업이 더 많은 출시 계획을 통해 빠르게 발전할 수 있었던 이유는 ZML의 20명으로 구성된 소규모 팀 덕분이라고 말했습니다.
또한 이 작은 팀이 규모에 비해 충분한 자금을 지원받는 것도 도움이 되었습니다. 엔지니어링 부사장으로서의 경력 덕분에 젠리스냅챗이 인수한 것 2017년에는 9자리 숫자로 증가Morin은 Harry Stebbings의 20VC, >commit, AALVC, Drysdale Ventures, Xavier Niel의 Kima Ventures, Kindred Capital, LocalGlobe 및 Puzzle Ventures를 포함한 벤처 회사로부터 2천만 달러를 모금했습니다.
첫 번째 공개 ZML 프로젝트와 달리 추론 중심 접근 방식 머신러닝 프레임워크 2024년에 출시되었으며, 3월에 업데이트됨ZML/LLMD는 오픈 소스가 아닙니다. 하지만 사용법을 배울 목적으로 무료 제품으로 출시되었습니다. “저는 측정하는 것을 선호합니다. [then generate revenue] 처음부터 너무 욕심을 냈기 때문에 어리석게도 내 성장을 방해하지 않고 가장 효과적인 곳”이라고 모린은 말했다.
ZML/LLMD가 언제 유료 제품이 될 수 있는지, 그리고 그 채택이 어떤 모습일지 알기에는 너무 이릅니다. 그러나 스타트업의 캡 테이블은 Dagger 및 Docker 창립자인 Solomon Hykes, Clément Delangue 및 Hugging Face의 Julien Chaumond는 물론 현재 LeCun을 비롯한 다른 창립자들이 관심을 기울이고 있음을 확인시켜 줍니다. AMI 연구소. 이는 또한 유럽의 AI 스타트업이 이제 집에서 만들 수 있습니다. Morin은 “파리 외에 다른 곳에서는 ZML을 할 수 없었습니다.”라고 말했습니다.
기사에 포함된 링크를 통해 구매하시면, 우리는 소액의 수수료를 받을 수도 있습니다. 이는 당사의 편집 독립성에 영향을 미치지 않습니다.