구글 라이트RT 텐서 API 공개
2026년 10월 20일 · SmartMakers GitStar Radar
1 / 4
구글 라이트RT 텐서 API 공개 구글 온디바이스 모델 개발용 라이트RT 텐서 API 공개 구글이 2026년 10월 19일 C++ 기반 온디바이스 연산 저작 도구인 라이트RT 텐서 API를 공개했는데요. 맥북 프로 테스트 기준 SAM 2 실행에서 애플 MLX보다 약 1.5배 빠른 연산 속도를 기록했습니다(회사 발표 기준). 전처리부터 추론과 후처리까지 가속기 공유 버퍼로 연결해 CPU 복사 왕복 지연을 없앴습니다. 동일한 C++ 그래프를 하드웨어별 코드 재작성 없이 CPU와 GPU, NPU에서 실행할 수 있습니다. 온디바이스 최적화가 필요한 엔지니어는 깃허브 라이트RT 샘플 저장소에서 C++ 구현 코드와 벤치마크 명령어를 바로 확인해 볼 수 있습니다. 발표일과 원문은 아래 출처에서 확인하세요. 성능 수치는 회사 발표 기준입니다. Google Developers · 2026-10-19 https://developers.googleblog.com/native-model-authoring-for-edge-with-litert-tensor-api
