Local AI Bench

By Minwoo Jung on AppTrack Ninja.

LocalAI Bench는 아이폰에서 직접 AI 모델을 실행하고 성능과 능력을 측정하는 온디바이스 벤치마크 앱입니다. 모든 추론은 기기 안에서 이루어지며, 대화 내용과 개인정보는 기기를 벗어나지 않습니다. ■ 온디바이스 실행 - 다양한 오픈 AI 모델(Llama·Qwen·Gemma·Phi 등)을 내려받아 기기에서 바로 실행 - 모델 다운로드 후에는 오프라인에서도 동작 ■ 실시간 성능 측정 - 생성 속도(tok/s)·첫 토큰 지연(TTFT)·최대 메모리(RAM)·발열을 채팅 중 실시간 표시 - 표준 방법론 자동 벤치마크: 텍스트 생성·입력 처리·번역·코딩·수학 속도를 반복 측정 ■ 능력 평가 - 수학·코딩·다국어 번역(한↔영·일·중)·요약·추론·비전을 자동 채점 - 능력 지수 + 속도 + 메모리를 한 번에 비교 (2축/종합/효율 점수 선택) ■ 비전·음성 모델 - 비전 모델 : 사진을 첨부하거나 실시간 카메라로 사물을 인식 - 음성 모델 : Whisper(tiny/base/small)로 음성 인식 속도(RTF) 비교 ■ 모델 비교·관리 - 두 모델 A/B 대결, 스트레스 테스트(발열·스로틀링) - 기능(비전·코딩·추론 등)·업체명으로 모델 검색 후 추가, i…

Categories: Productivity, Utilities

App Store rankings, screenshots, estimates and similar apps for Local AI Bench.