편집장의 Comments 👀

최근 애플이 iOS 18.1버전을 출시하며 애플 인텔리전스의 첫 단계를 공개했습니다. 이어서 연내에 iOS 18.2가 출시될 것으로 예상되는데, 여기에는 시리에 ChatGPT를 통합하는 등 더욱 강화된 AI 기능이 포함될 것으로 보입니다. 지난 6월 애플이 애플 인텔리전스를 발표한 이후 온디바이스 AI에 대한 관심이 더 커졌었는데요. 잠자던 거인이 깨어났다며, 애플의 조용하던 주가도 폭발했죠. AI 기능이 탑재된 스마트폰은 인터넷에 연결되지 않아도 AI를 사용할 수 있다는 점과 민감한 개인정보 문제를 해결할 수 있다는 점이 가장 큰 장점인데요. 이처럼 기기 자체에서 AI를 구현하는 것을 '온디바이스(On-Device) AI'라고 부릅니다.

이번 에브릿띵에서는 온디바이스 AI란 과연 무엇인지, 온디바이스 AI가 우리의 일상을 어떻게 바꿀 수 있는지 알아보겠습니다.

오늘의 에브릿띵 정리

• 생성형 AI의 빠른 성장 속에서 속도, 보안, 비용 문제 해결을 위해 클라우드 대신 기기에서 직접 AI를 실행하는 온디바이스 AI가 주목받고 있습니다.

• 소형 언어 모델과 AI 모델 경량화, 전용 AI 칩 개발 등의 기술 발전으로 스마트폰, PC, 가전 등 다양한 기기에 온디바이스 AI가 적용되고 있습니다.

• 온디바이스 AI는 앞으로 스마트홈, 스마트카부터 개인 맞춤형 로봇까지 우리 일상 곳곳에서 활용되어 일상의 경험을 바꿔나갈 것입니다.

온디바이스 AI의 특징과 기술적 배경🧐

최근 생성형 AI의 폭발적인 성장과 함께, ChatGPT와 같은 대형 언어 모델(LLM, Large Language Model)이 우리의 일상과 일하는 방식을 변화시키고 있습니다. 하지만 동시에 속도와 비용, 보안 등의 문제가 제기되고 있습니다.

우선 컴퓨팅 리소스를 과도하게 사용합니다. 예컨대 ChatGPT의 하루 컴퓨팅에 사용하는 리소스 비용이 무려 70만 달러(약 9억 원)에 달한다는 추산이 있습니다.1)

또한, 데이터가 클라우드 서버로 전송되기 때문에 민감한 정보가 유출될 위험도 있습니다. 생성형 AI는 이용자가 입력하는 데이터를 학습하여 모델의 성능을 강화할 수 있는데요. 이때 기업의 다양한 정보가 외부의 클라우드로 유출될 수 있다는 우려가 있어서, 업무에 생성형 AI 사용을 제한하거나 자체적으로 기업용 AI 서비스를 구축하는 사례도 나타나고 있죠.

온디바이스 AI란 간단히 말해 클라우드가 아닌 사용자의 기기에서 직접 AI를 실행하는 기술로, 위에서 언급한 생성형 AI 및 대형 언어 모델의 문제점을 해결하기 위한 대안으로 주목받고 있습니다.

우선, 네트워크 지연 없이 즉각적인 결과를 얻을 수 있어 빠른 응답 속도를 자랑합니다. 이는 실시간 데이터 처리가 필요한 애플리케이션에서 특히 유용합니다.

또한, 개인 데이터가 기기를 떠나지 않고 로컬에서 처리되기 때문에 프라이버시 보호가 강화되어 높은 보안성을 제공합니다. 사용자의 기기에서 직접 학습이 이루어지므로 사용자별로 맞춤화된 경험을 제공하는 개인화 서비스도 가능해집니다. 더불어 인터넷 연결 없이도 AI 기능을 사용할 수 있어 오프라인 환경에서도 원활한 사용이 가능합니다.

이러한 특징들로 인해 온디바이스 AI는 클라우드 기반 AI의 한계를 극복하고 더 효율적이고 안전한 AI 경험을 제공할 수 있죠. 온디바이스 AI의 급속한 발전은 여러 기술적 혁신이 복합적으로 작용한 결과입니다. 특히 두 가지 핵심적인 기술적 진보가 이를 가능케 했습니다.

첫째, 소형 언어 모델(sLM, Small Language Model)의 획기적인 발전입니다. 극도로 선별된 데이터를 활용해 대형 언어 모델(LLM)에 준하는 성능을 유지하면서도 모델 크기를 대폭 줄이는 데 성공했습니다. 마이크로소프트의 'Phi' 시리즈를 비롯해 국내에서도 LG유플러스의 '익시젠(ixi-GEN)', 업스테이지의 '솔라 미니(Solar Mini)' 등이 출시되며 발전 가능성을 보여주고 있습니다.

둘째, AI 모델 경량화 기술의 발전입니다. 양자화(Quantization) 기술과 가지치기(Pruning) 기술 등을 통해 AI 모델의 크기를 대폭 줄이면서도 성능 저하를 최소화할 수 있어, 제한된 리소스를 가진 스마트폰과 같은 모바일 기기에서도 복잡한 AI 모델을 효율적으로 구동할 수 있게 되었습니다.

NPU(Neural Processing Unit)와 같은 AI 전용 칩의 성능 향상도 온디바이스 AI의 발전에 크게 이바지했습니다. AI 전용 칩은 AI 연산에 최적화되어 있어 기존 CPU나 GPU보다 훨씬 효율적으로 AI 작업을 처리할 수 있습니다. 엣지 컴퓨팅 기술과의 융합도 데이터 처리의 분산화를 가능하게 하여 온디바이스 AI의 능력을 한층 더 확장했습니다. 다양한 기술적 혁신의 시너지로 온디바이스 AI는 이제 현실 세계에서 실용적으로 활용될 수 있는 단계에 도달했습니다.

온디바이스 AI, 스마트폰📱과 PC🖥️를 혁신하다

온디바이스 AI가 발전함에 따라, 실제로 이를 적용한 스마트폰과 PC와 같은 주요 디바이스가 등장하고 있습니다.

주요 스마트폰 제조사들이 스마트폰 라인업에 생성형 AI 기능을 추가하며 AI 스마트폰 경쟁이 본격화되고 있습니다. IDC는 최근 보고서에서 4년 이내에 스마트폰 4대 중 3대가 AI 기능을 탑재할 것으로 전망했습니다.2)

AI PC 쪽도 이미 경쟁이 뜨겁습니다. LG전자는 인텔의 AI 칩을 탑재한 'LG 그램'을, 삼성전자는 '갤럭시 북'을 공개했습니다. 또 마이크로소프트는 자사의 AI 모델 '코파일럿'을 탑재한 '코파일럿+PC'를 공개했고, HP 역시 AI PC를 선보이며 주도권을 노리고 있습니다.

모바일과 PC 외에도 LG전자는 가전 전용 온디바이스 AI 칩 개발에 주력하고 있는데요. DQ-C AI 칩을 자체 개발해 주요 가전제품에 적용 중이며, 적용 제품군을 지속적으로 늘릴 계획입니다.3)

한편, 애플의 전설적인 디자이너였던 조너선 아이브와 OpenAI의 창립자 샘 알트만이 함께 아직 이름이 없는 AI 기기를 개발하기 위한 비밀스러운 프로젝트를 진행 중이라는 소식도 흘러나오고 있습니다.4)

모바일과 PC에 이어 가전제품과 아직 보지 못한 새로운 디바이스까지 온디바이스 AI 경쟁이 뜨거운데요. 스마트폰의 시대 이후 우리는 '포스트 스마트폰', '포스트 스크린' 시대를 준비해 왔습니다. 음성 AI 에이전트, 웨어러블 기기, 정밀한 위치 추적 기술, 고급 신호 처리 기술, 진화한 센서 등 다양한 기술들이 발전해 왔습니다. 이러한 기술의 진보가 이제 온디바이스 AI의 형태로 결실을 맺고 있는 거죠.

온디바이스 AI가 이끌 우리의 미래 일상🙌🏻

온디바이스 AI는 앞으로 우리 주변의 세상과 자연스럽게 상호작용을 하는 더 똑똑한 기술로 발전하여, 온디바이스 AI를 탑재한 다양한 형태를 가진 디바이스의 탄생을 가능하게 할 것입니다. 이 기기들은 디바이스에 장착된 센서, 카메라, 마이크, 스크린 등을 활용해, 터치, 동작, 음성, 얼굴, 지문, 홍채 인식 등 다양한 방식으로 사용자의 행동과 주변 환경을 감지해 사용자와 소통하고, 지속적으로 사용자 경험을 개선해 나갈 것입니다.

이러한 기술은 우리의 일상에 깊숙이 스며들 것입니다. 스마트워치, 스마트밴드, 스마트안경, 스마트TV, 스마트스피커는 물론, 스마트홈과 스마트카, 더 나아가 스마트시티까지 광범위하게 적용될 수 있습니다. 사진, 비디오, 음악, 게임, 쇼핑, 교육, 건강, 피트니스, 여행, 금융, 보안, 엔터테인먼트 등 우리 삶의 거의 모든 영역에서 이 기술의 혜택을 누리게 될 것입니다

예를 들어, 스마트홈 시스템에 이런 기술이 적용된다면 어떨까요? 집 안 곳곳의 센서들이 실시간으로 환경 정보를 수집하고, 온디바이스 AI가 이를 분석해 최적의 환경을 만들어냅니다. 동시에 사용자와 자연스럽게 대화하며 맞춤형 서비스를 제공하죠. 이 모든 과정이 기기 내에서 처리되기 때문에 개인정보 보호도 걱정 없습니다.
실제로 우리는 이미 AI가 물리적 세계에서 인간의 필요를 해결하는 모습을 보고 있습니다. 예를 들어, Embodied의 로봇 'Moxie'는 어린이들의 사회성 및 정서적, 인지적 발달을 도와주고, Intuition Robotics의 노인 돌봄 동반자 로봇 'ElliQ'는 고령자의 일상을 지원하고 있습니다. 이들 제품의 공통점은 AI 기능이 물리적 디바이스에 직접 내장되어 있어, 실시간으로 사용자와 환경을 인식하고 반응한다는 점입니다. 5), 6)

온디바이스 AI는 이제 물리적 세계와의 상호작용을 강화하며 디바이스의 진화 가능성을 넓히고 있습니다. 이제 AI는 디지털 환경을 넘어, 우리 주변의 사물과 상호작용을 하며 실시간으로 반응하는 스마트디바이스로 우리의 일상을 함께할 겁니다.

🤔 온디바이스 AI는 앞으로 선택이 아니라 필수가 될 것입니다. 시장 상황과 환경을 고려하면서, 온디바이스 AI의 잠재력을 최대한 활용하여 경쟁력을 강화할 방안을 생각해 볼까요.

_{1) ZDNET Korea, <오픈AI, 챗GPT 때문에 파산할 수도…왜?>}

_{2) IDC, < Worldwide Generative AI Smartphone Shipments Forecast to Reach 70% of the Market by 2028 with More Than 360% Growth in 2024, According to IDC>}

_{3) ZDNET Korea, <가전용 AI 반도체 직접 개발하는 LG전자...왜?>}

_{4) TechCrunch, <Yup, Jony Ive is working on an AI device startup with OpenAI>}

_{5) Forbes, <Moxie: How This AI Robot Is Designed To Teach Kids Emotional Intelligence>}

_{6) NEWYORKSTATE, <NYSOFA’s Rollout of AI Companion Robot ElliQ Shows 95% Reduction in Loneliness>}