2023년은 생성형 AI, 2024년 AI 트렌드는?
지난 2023년은 생성형 AI(Generative AI)의 해라고 해도 과언이 아닙니다. 오픈AI(OpenAI)가 개발한 대화형 인공지능 서비스 ‘챗GPT(ChatGPT)’, 이미지 AI의 성능을 발전시킨 ‘스테이블 디퓨전(Stable Diffusion)’ 등 주요 AI 모델이 등장하며 많은 기업이 생성형 AI에 관심을 가지고 다양한 시도를 했습니다.
하지만, 생성형AI가 실제 비즈니스에 적용된 사례는 아직 많지 않은데요. 존 로세(John Roese) 델 테크놀로지스 글로벌 CTO 는 2023년 델 테크놀로지 월드 2023(DELL Technologies World 2023)에서 “2023년에는 생성형AI가 기업 환경과 전세계를 어떻게 변화시킬지에 대해 많은 창의적인 아이디어가 쏟아졌으나, 실제 비즈니스로 확장해 적용한 사례는 많지 않았다”며, “2024년에는 엔터프라이즈 생성형AI 프로젝트의 첫번째 파도가 어느 정도 성숙의 수준에 도달할 것으로 예상되며, 이는 초기 단계에서 발견되지 않은 생성형AI의 잠재력을 드러낼 것”이라고 예측했습니다.
생성형 AI로 비즈니스 가치를 창출하기 위해서는 기능을 직관적으로 이해하고 필요한 작업에 바로 도입할 수 있는 사용자가 있어야 합니다. 생성형 AI가 그림 그리기나 짧은 이야기 제작은 가능하지만, 비즈니스에 도입한 후에는 인간의 개입이 필요하기 때문입니다. 이와 같은 관점에서 주목받고 있는 개념이 바로 ‘인간 중심 AI(Human – Centered AI, HCAI, 이하 인간중심 AI)’입니다. 이전의 인간 중심 AI는 자율 AI(Autonomous AI, 이하 자율 AI)에 대립하는 추상적인 관념이었지만, 현재는 AI 비즈니스 모델의 한 축을 담당하고 있습니다. 자율 AI는 AI 스스로 인간의 개입 없이 작업을 수행할 수 있다고 보며, AI의 ‘자율성’을 강조하는 개념인데요. 반면 인간 중심 AI 개념은 AI는 인간을 완전히 대체할 수 없다고 보며, AI를 활용하여 사용자의 능력을 향상시키는 데 집중합니다. 2023년이 생성형 AI의 해였다면, 2024년은 생성형 AI를 본격적으로 비즈니스에 도입하기 위한 ‘인간 중심 AI’가 대세가 되고 있습니다.
인간 중심 AI(HCAI)란?
‘인간 중심 AI(HCAI, Human – Centered AI)’는 AI 분야의 한 종류로, 인간의 능력을 증폭하고, 증강하는 AI 시스템을 만드는 것을 목표로 합니다. 인간의 요구를 충족하면서 투명한 운영과 공평한 결과, 그리고 개인 정보를 보호해야 합니다. 또한 인간의 통제권 안에서 작동돼야 하기 때문에 인간이 통제할 수 있는 장치가 있어야 하는데요. 때문에 인간 중심 AI는 처리할 데이터를 반드시 시각화해야 하며, AI 디자인에 사용자 경험(UX), 상호작용 디자인(IxD) 전문가가 참여해 사람이 사용할 수 있는 형태로 설계해야 합니다.
생성형 AI에 대화형 사용자 인터페이스(CUIs, Conversational User Interfaces)를 적용한 챗GPT가 인간 중심 AI의 대표적인 사례입니다. 익숙한 챗봇 인터페이스로 인간이 생성형 AI를 사용하게 함으로써 인간의 작업을 돕는 인간 중심 AI를 실현한 것입니다. 이처럼 생성형 AI시대에 인간 중심 AI가 더 강조되는 이유는 무엇일까요? 이를 인간 중심 AI와 자율 AI의 차이로 설명해 보겠습니다.
1. 인간 중심 AI와 자율 AI의 차이
인간 중심 AI의 목적이 인간의 능력 증폭 및 증강에 있다면, 자율 AI는 기계가 인간의 개입 없이 데이터와 알고리즘으로만 작업을 수행하는 것에 목적을 두는 개념입니다. 가장 발전된 유형의 AI 중 하나로, 자율 AI는 아래와 같은 이점이 있습니다.
자율 AI 이점
• 인간의 개입 없이 AI가 인간을 대신해 할당된 작업을 처리
• 오차 없는 정확도로 주어진 작업을 처리
• 365일 24시간 쉬지 않고 작업 처리 가능
• 소통으로 인한 병목현상, 실수, 노동 시간 등 제약이 없어 생산성이 향상
하지만 실제 운영에는 많은 어려움이 있습니다.
자율 AI 한계
• 높은 운영 비용 : AI 시스템 운영에는 큰 비용이 들기 때문에, 비용을 상쇄할 수 있을 만큼의 가치를 만드는 대규모 비즈니스가 뒷받침돼야 합니다.
• 차별과 편견 : 인간은 데이터의 차별과 편견을 인지할 수 있는 반면, AI는 인간 데이터를 학습하기 때문에, 인간 사회의 편견을 스스로 깨우치지 못합니다.
• 규제 리스크 : 2023년 12월 유럽연합(EU)이 제정한 AI 법(AI Act)의 규제 범위가 넓어짐에 따라 인간의 개입이 없는 AI는 규제에 걸릴 확률이 높아졌습니다. 이에 기업의 AI 도입 리스크가 커지며, 자율 AI를 비즈니스에 쉽게 도입할 수 없게 됐습니다.
이러한 한계는 생성형 AI가 등장하며 더 커졌습니다. 기존 AI는 사전 정의된 지침이나 전략에 따라 작업을 수행했지만, 생성형 AI는 명령에 따라 새로운 콘텐츠를 생성하기 때문에 투명성, 차별/편견, 환각, 저작권과 같은 새로운 문제를 불러왔습니다. EU는 AI 법을 제정해 생성형 AI의 기반이 되는 LLM(Large Language Model, 대형 언어 모델)에 EU 저작권법 준수, 학습에 사용한 콘텐츠 명시 등 투명성 의무를 부여했습니다. 미국 역시 ‘안전하고 신뢰할 수 있는 AI에 대한 행정명령(Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence)’을 마련했는데요. AI 개발사는 미국 상무부 산하 국립표준기술연구소(NIST, National Institute of Standards and Technology)의 안전성 평가 결과를 의무적으로 제출해야 합니다. 차별과 편견을 조장할 위험성이 없는지 등을 중점적으로 평가받게 되는데, 이 평가를 통과하지 못하면 AI 시스템을 상용화하기 어렵습니다.
생성형 AI는 자율 AI의 발전에 큰 영향을 끼쳤으나, 그만큼 복잡한 리스크를 가지고 있습니다. 기업이 AI의 이점을 유지하면서 규제 리스크를 회피하고, 비용 등 효율성을 가지려면 AI를 운영할 때 인간의 개입을 완전히 배제하지 못할 가능성이 커집니다. 이런 이유로 기업은 생성형 AI의 전략을 자율 AI가 아닌 인간 중심 AI로 설계할 필요성이 생겼고, 이에 맞춰 실질적인 비즈니스 효과를 낼 수 있는 AI로 인간 중심 AI가 주목받게 됐습니다.
2. 인간 중심 AI 디자인
2019년 인텔의 인간-AI 인터랙션(Human – AI Interaction) 기술 리더인 웨이 수(Wei Xu)는 ‘인간 중심의 AI를 위해: 인간과 컴퓨터의 상호작용에서 바라본 관점(Toward human-centered AI: a perspective from human-computer interaction)’이라는 논문에서 인간에게 안전하고 효율적인 AI 설계를 위한 HCAI 프레임워크를 제시했습니다.
HCAI 프레임워크
• Ethically Aligned Design: 차별 없이, 공정성을 유지하며 인간을 대체하지 않는 윤리적 설계
• Technology Enhancement: 인간 지능과 유사하거나 인간 지능을 향상시킬 수 있는 설계
• Human Factors Design: 설명 가능한 AI 솔루션으로 인간이 이해하고, 사용할 수 있는 디자인
HCAI 프레임워크 보기
웨이 수는 “인간 중심 AI 프레임워크는 윤리적 AI 설계를 통해 인간의 능력 대체가 아니라, 인간의 능력을 향상시키는 데 중점을 둔다”고 말했습니다. AI가 모든 것을 알아서 해내는 것이 아니라 인간이 사용할 수 있도록 디자인하는 것, 이것이 인간 중심 AI와 자율 AI의 차이입니다.
인간 중심 AI의 성장과 변화할 미래
글로벌 시장 조사 업체 리서치 네스터(Research Nester)는 보고서를 통해 인간 중심 AI 시장이 2023년 80억 달러 규모에서 2036년까지 연평균 9%씩 성장해 480억 달러에 달할 것으로 예측했습니다. 2023년부터 인간 중심 AI를 고도화한 운영체제(OS)와 하드웨어 사례가 등장하기 시작하며 2024년부터 인간 중심 AI 전략이 증가하고 있기 때문입니다.
1. 인간 중심 AI 전용 운영체제와 하드웨어의 등장
• 개인용 AI 비서, Ai Pin
2023년 11월 애플의 디자이너, 엔지니어 출신인 임란 초드리(Imran Chaudhri)와 베사니 본조르노(Bethany Bongiorno) 부부는 스타트업 휴메인(Humane)을 설립해 AI 기반의 웨어러블 장치 ‘Ai핀(Ai Pin)’을 출시했습니다.
Ai핀은 코스모스(cosmOS)라는 이름의 AI OS 입니다. 코스모스는 인간 중심 AI 실현을 위한 통합 OS로, 지능형 기술과 상호작용, 보안 기술이 결합돼 있습니다. Ai버스(Ai Bus)는 AI 코파일럿이자 AI 허브 기술로, 사용자가 “서울역까지 가는 길을 안내해줘”라고 명령하면, AI가 명령의 의도를 파악하고, 네비게이션 앱을 실행해 서울역을 입력한 뒤 출력된 결과를 레이저로 보여줍니다. 또한 Ai 아키텍처(Ai Architecture)는 휴먼 인터페이스 기술을 활용해 사용자의 말과 행동의 맥락을 이해하고, 사용자의 상황에 필요한 행동을 지능적으로 안내합니다.
Ai핀은 오픈AI의 샘 올트먼(Sam Altman), 세일즈포스의 마크 베니오프(Marc Benioff), 마이크로소프트를 비롯해 LG, 볼보, 퀼컴 등이 투자하고 있으며, 최근 SK텔레콤과 제휴해 국내 출시를 앞두고 있습니다. Ai핀이 스마트폰을 대체할 장치가 될 것인가에 대해 많은 관심이 쏠리고 있습니다.
• CES 2024에 등장한 토끼, 래빗 R1
래빗 R1(Rabbit R1)은 지난 1월 개최된 CES 2024에서 주목받은 AI 장치입니다. 2.88인치 터치스크린, 아날로그 스크롤 바퀴, 360도 회전하는 카메라를 탑재한 199달러짜리 주황색 정사각형 기기인데요. 래빗 R1도 Ai 핀과 마찬가지로 AI가 사용자를 지원하는 것이 핵심입니다. “택시를 타고 서울역에 가고 싶어.”라고 명령하면 택시 앱을 실행하여 서울역을 도착 지점으로 현재 위치로 택시를 호출하고 연결된 신용카드에서 결제되도록 알아서 처리하는데요. 화면을 넘기거나 버튼을 누를 필요가 없습니다.
이런 과정을 처리하는 시스템이 래빗OS(Rabbit OS)입니다. 래빗OS는 래빗 홀(Rabbit Hole)이라는 통합 웹 포털을 통해 아마존, 우버, 스포티파이와 같은 주요 서비스를 단일 래빗 계정으로 연동하는데요. 사용자가 명령하면 AI가 필요한 서비스로 이동해 로그인을 한 후, 요청을 수행합니다. 이를 위해 래빗은 오픈AI와의 협력을 통해 특정 웹사이트에서 사용자의 행동을 모방하는 거대 행동 모델(Large Action Model, LAM)을 개발했습니다.
2. 인간 중심 AI에 대비한 연구 동향
AI의 급격한 발전은 지금, 이 순간에도 진행되고 있습니다. 그렇기 때문에 관련 제도를 마련하거나, 대비해야 한다는 의견도 함께 나오고 있는데요. 이 중심에 인간 중심 AI가 있습니다. 자율 AI가 인간의 통제를 벗어나기 전에 인간 중심 AI를 활용해 AI의 발전을 방해하지 않으면서 AI 안전성을 유지하자는 것이 핵심인데요. 여러 교육 기관은 인간 중심 AI 연구를 위한 연구소를 설립하고 있으며, AI를 규제해야 하는 각국의 정부 또한 연구에 관심을 보이고 있습니다.
• 스탠퍼드 대학교 HAI 연구소
미국 스탠퍼드 대학교는 2019년에 스탠퍼드 인간 중심 AI 연구소(The Stanford Institute for Human-Centered Artificial Intelligence, 이하 HAI)를 설립했습니다. HAI 연구소는 AI로 인류에 더 나은 미래를 제시하고, 산업계와 정부 및 비정부기구와 협력하는 것을 목표로 하고 있습니다. 미국 국립과학재단(NFS), 구글, 오픈AI 등과 협력하고 있으며, 주로 인간이 활용하기 적합한 AI 설계 방법과 좋은 AI UX를 개발하기 위한 엔지니어와 디자이너가 협업하는 방법 등을 연구하고 있습니다.
• 영국 워릭 대학교의 인간 중심 AI 연구와 AI in the streets 프로젝트
2024년 초, 영국 워릭 대학교는 인간 중심 AI 연구를 위한 ‘AI in the streets 프로젝트’의 진행을 위해 영국 정부로부터 1억 파운드를 지원받았습니다. 워릭 대학교는 자율주행차, 감시 시스템 등의 AI 기반 기술이 시민들과 어떻게 상호작용하며, 어떤 변화와 혜택을 가져오는지 다각도로 연구하는데요. 이를 통해 향후 AI 기술의 발전 및 투자 방향을 확인하고 저작권 문제, 범죄 활용 등 사회에 악영향을 끼칠 수 있는 영역에 대한 가이드를 마련하는 것을 목표하고 있습니다.
3. 인간 중심 AI의 미래
지금까지 인간 중심 AI에 설명과 주요 사례를 소개해 드렸습니다.
기관과 정부가 AI 시대를 준비하는 상황, 자율 AI나 관련 기술에 주도권을 빼앗기지 않도록 인간 중심 AI에 대한 투자와 연구에 많은 관심을 두는 것도 확인할 수 있었는데요. 액센츄어의 테크 비전 2024 보고서는 이런 과도기적 상황을 종합적으로 설명하고 있습니다. 하나의 맥락으로는 설명하기 어려운 동시다발적인 동향이기 때문에 이전보다 빠른 적응과 변화가 필요한 시점이 될 것으로 생각됩니다. 오히려 AI가 과도기인 만큼 인간 중심이어야 한다는 인간 중심 AI의 핵심이 더 강조될 것으로 보입니다.
[참고자료]
• https://www.researchnester.com/reports/human-centered-ai-market/5755
• https://www.rabbit.tech/research
• https://hai.stanford.edu/research/ai-index-2023
• https://aiindex.stanford.edu/vibrancy/
• https://warwick.ac.uk/fac/cross_fac/cim/research/research-projects/ai-in-the-street/
• https://pitchbook.com/news/articles/generative-ai-startups-vc-deals-decline
• https://youtu.be/QO8W5TQ0xKs?si=guLj7WwTretOB2nA
• https://www.accenture.com/lu-en/insights/technology/technology-trends-2024
글 ㅣLG CNS 융합기술연구소 기술전략팀
