「온디바이스 AI」라고 했는데, 왜 실제로는 클라우드 없이 작동하지 않는가? — 스마트폰 AI 마케팅의 거짓말

2025년 이후 출시되는 거의 모든 플래그십 스마트폰은 「온디바이스 AI」를 핵심 기능으로 내세운다. NPU 성능을 강조하며 마치 모든 AI 기능이 기기 내부에서 처리되는 것처럼 광고한다. 하지만 실제로는 그렇지 않다.

마케팅이 말하지 않는 것

대부분의 고급 AI 기능은 여전히 클라우드 서버에 의존한다. 삼성 갤럭시 AI의 통역, 요약, 이미지 생성 기능 상당수는 Google 클라우드를 경유한다. Apple Intelligence 역시 Private Cloud Compute라는 자체 서버를 거친다. 비행기 모드에서 이 기능들을 실행해 보면 대부분 작동하지 않거나 품질이 급격히 저하된다.

왜 이런 일이 발생하는가

NPU 성능의 한계: 스마트폰 NPU는 10~20 TOPS 수준. 클라우드 GPU 대비 수십 분의 1 수준이다

모델 크기 제약: 고성능 LLM은 수십~수백 GB. 스마트폰에 탑재 가능한 경량 모델은 기능이 제한적이다

발열과 배터리: 대형 모델을 로컬에서 돌리면 발열이 심각하고 배터리 소모가 급증한다

실제로 온디바이스에서 작동하는 것

음성 인식 일부, 사진 자동 분류, 간단한 텍스트 교정 정도가 진짜 온디바이스 처리다. 제조사가 대대적으로 광고하는 고급 생성형 AI 기능은 사실상 클라우드 AI의 스마트폰용 클라이언트에 가깝다.

소비자가 확인해야 할 것

1. 비행기 모드에서 해당 AI 기능이 작동하는지 확인
2. AI 기능 사용 시 데이터 사용량 모니터링
3. 개인정보 처리 방침에서 AI 데이터 전송 여부 확인
「온디바이스 AI」는 일부만 온디바이스이고, 핵심은 여전히 클라우드다. NPU 스펙 숫자에 현혹되지 말고, 어떤 기능이 실제로 로컬에서 처리되는지 따져봐야 한다.
*본 분석은 스펙 기반 분석이며, 스폰서십 없이 작성되었습니다. 기기별 AI 처리 방식은 소프트웨어 업데이트에 따라 변경될 수 있습니다.*