SiMa.ai công bố phần mềm AI vật lý 'Palette 3.0'… chạy đồng thời nhiều mô hình AI trên một chip duy nhất
Hình ảnh ra mắt 'Palette 3.0' (ảnh: SiMa.ai) SiMa.ai, doanh nghiệp bán dẫn AI vật lý, đã công bố 'Palette 3.0', nền tảng phần mềm giúp chạy đồng thời nhiều mô hình trí tuệ nhân tạo (AI) trên một chip duy nhất và tăng thông lượng suy luận của AI tạo sinh lên tối đa 3,5 lần
Hỗ trợ tích hợp nhận thức, ước lượng độ sâu và suy luận cho drone và robot… đẩy nhanh phát triển hệ thống tự hành bằng hợp nhất cảm biến và bản sao số

Hình ảnh ra mắt 'Palette 3.0' (ảnh: SiMa.ai)
SiMa.ai, doanh nghiệp bán dẫn AI vật lý, ngày 18 đã công bố 'Palette 3.0', nền tảng phần mềm giúp chạy đồng thời nhiều mô hình trí tuệ nhân tạo (AI) trên một chip duy nhất và tăng thông lượng suy luận của AI tạo sinh lên tối đa 3,5 lần.
Nền tảng này mở rộng từ 'Agentic Palette' ra mắt hồi tháng 6, được thiết kế để vận hành hiệu quả mô hình ngôn ngữ lớn (LLM) và mô hình ngôn ngữ thị giác (VLM) trong môi trường biên như drone, robot, nơi điện năng và bộ nhớ bị hạn chế. Đặc biệt, nền tảng tăng cường khả năng chạy đồng thời nhiều mô hình và hiệu năng suy luận, đồng thời hỗ trợ cả các chức năng hợp nhất cảm biến, mô phỏng và kiểm chứng cần thiết để phát triển hệ thống tự hành.
AI vật lý là công nghệ giúp các hệ thống vật lý như robot hay drone nhận biết môi trường xung quanh, đưa ra phán đoán và thực hiện hành động thực tế. Để hiện thực hóa điều này, mô hình nhận thức phân tích thông tin từ cảm biến như camera, mô hình ước lượng độ sâu để nắm bắt không gian và mô hình suy luận quyết định hành động phải hoạt động cùng nhau.
Vấn đề là rất khó chạy đồng thời các mô hình AI này trên chip biên vốn dùng điện năng và bộ nhớ hạn chế. SiMa.ai giải thích rằng với Palette 3.0, công ty giải quyết hạn chế về tài nguyên tính toán này và hỗ trợ xử lý các khối lượng công việc AI phức tạp trên một chip.
Palette 3.0 cung cấp tính năng chạy đồng thời nhiều mô hình dựa trên hệ thống trên chip học máy (MLSoC) Modalix của SiMa.ai. Nền tảng chạy song song nhiều mô hình AI trên một chip và cũng hỗ trợ cách tách môi trường thực thi theo từng mô hình bằng các container Docker riêng.
Nhờ đó, nhà phát triển có thể tích hợp các chức năng nhận diện thị giác, phân tích không gian và suy luận dựa trên ngôn ngữ mà drone và robot cần vào một nền tảng phần cứng duy nhất. Nền tảng đặc biệt tập trung giảm gánh nặng về tiêu thụ điện năng và sử dụng bộ nhớ phát sinh khi kết hợp nhiều mô hình.
Hiệu năng suy luận của AI tạo sinh cũng được tăng cường. SiMa.ai đã áp dụng các kỹ thuật giải mã suy đoán (Speculative Decoding) như EAGLE3, DFlash và dự đoán đa token Gemma 4 (Gemma 4 MTP) vào Palette 3.0.
Giải mã suy đoán là phương pháp trong đó mô hình AI dự đoán trước và kiểm chứng token sẽ được tạo ra tiếp theo, được dùng để tăng tốc độ đầu ra mà vẫn giữ độ chính xác của kết quả. SiMa.ai cho biết nhờ tối ưu hóa này, công ty đã tăng thông lượng token mỗi giây (TPS) lên tối đa 3,5 lần trong môi trường tiêu thụ điện thấp.
대규모 모델의 엣지 구동 범위도 확대했다. 팔레트 3.0은 오픈AI(OpenAI)의 지피티 오픈소스 20B(GPT-OSS-20B)와 같은 전문가 혼합(Mixture-of-Experts, MoE) 구조의 모델을 모달릭스 기반 16GB 시스템온모듈(SoM)에서 실행할 수 있도록 지원한다.
전문가 혼합 모델은 입력에 따라 일부 전문가 신경망을 선택적으로 활성화하는 구조다. 전체 매개변수를 매번 사용하는 방식보다 연산 자원을 효율적으로 활용할 수 있어 제한된 하드웨어에서 대규모 AI 모델을 구동하는 데 유리하다.
이번 업데이트는 AI 모델의 실행뿐 아니라 자율 시스템 개발과 검증 과정에도 초점을 맞췄다. 시마AI는 생태계 파트너와 협력해 통합 센서 융합, 고밀도 신경망 기반 깊이 필드(Dense Neural Depth Fields), 폐쇄 루프(Closed-Loop) 디지털 트윈 시뮬레이션 기능을 추가했다.
센서 융합은 카메라 등 여러 센서에서 수집한 정보를 결합해 주변 환경을 보다 종합적으로 파악하는 기술이다. 깊이 추정 기술은 물체와의 거리 및 공간 구조를 분석하는 데 활용된다.
폐쇄 루프 디지털 트윈 시뮬레이션은 가상 환경에서 AI의 판단과 동작 결과를 다시 시스템에 반영하며 반복적으로 검증하는 방식이다. 실제 로봇이나 드론에 적용하기 전에 다양한 상황에서 동작을 시험할 수 있어 자율 시스템 개발 과정의 통합 및 검증 부담을 줄이는 데 활용될 수 있다.
시마AI는 기존 에이전틱 팔레트가 개발 기간을 수개월에서 수일 또는 수시간으로 단축하도록 설계됐으며, 팔레트 3.0에서는 오픈소스 기능을 확대해 개발자가 AI 애플리케이션을 수정하고 최적화할 수 있도록 지원한다고 설명했다.
크리슈나 랑가사이(Krishna Rangasayee) 시마AI 창립자 겸 최고경영자(CEO)는 “오늘날 피지컬 AI의 근본적인 병목 현상은 매월 진화하는 소프트웨어와 이에 대응하는 데 수년이 걸리는 기존 실리콘 하드웨어 간의 뚜렷한 격차에서 비롯된다”고 말했다.
이어 “팔레트 3.0은 소프트웨어의 발전 속도에 발맞추는 하드웨어라는 비전을 실현하는 기술”이라며 “고객이 현재의 하드웨어에서도 미래의 새로운 기능을 구현할 수 있도록 지원하고, 완전 자율 시스템 개발을 가속하겠다”고 강조했다.
시마AI는 드론과 로보틱스에 활용되는 주요 AI 모델의 처리 성능을 자사 모델 브라우저(Model Browser)를 통해 공개하고 있다. 회사에 따르면 성능 측정에는 실제 환경의 전력 제약 조건이 반영됐다.
이번 발표는 피지컬 AI 반도체의 경쟁이 단순한 연산 성능을 넘어 여러 AI 모델을 동시에 실행하는 능력과 소프트웨어 최적화, 시스템 통합 기술로 확대되고 있음을 보여준다. 특히 대규모 AI 모델을 클라우드에 의존하지 않고 현장의 저전력 하드웨어에서 실행하려는 수요가 증가하면서, 모델 처리 속도와 와트당 성능, 개발 편의성이 엣지 AI 플랫폼의 주요 경쟁 요소로 부상하고 있다.
최광민 기자 ckm0081@aitimes.kr
다른기사 보기
저작권자 © 인공지능신문 무단전재 및 재배포 금지
Tài liệu nguồn để biên tập: 인공지능신문, tác giả Chưa xác định.
Chủ đề xu hướng: 소프트웨어. Thời điểm xu hướng trong nguồn cấp: 2026-11-17T11:24:00Z.
- Bản tin
- 인공지능신문

