디스토피아적 공상과학(SF) 영화 덕분일까요? 인간은 ‘사람과 같은’ AI(인공지능)을 그다지 달가워하지 않습니다.

영화 매트릭스는 인간이 컴퓨터와 기계에 의해 양육되는 먼 미래를 그립니다. 터미네이터 역시 자의식을 가진 집단적 AI가 인간을 적으로 간주해 주인공을 죽이려 하는 줄거리를 골자로 합니다.

대부분의 SF 영화에서 인류는 암울한 미래를 맞이합니다. 이처럼 인간을 뛰어넘는 AI에 역습당하는 영화가 난무하지만, 그런데도 우리는 끊임없이 ‘사람과 같은’ AI를 갈구합니다. 사람과 비슷하되 흠 없는 AI를 개발해 더 나은 삶을 사는 것을 꿈꾸죠.

불쾌한 골짜기의 모순

2016년 구글의 알파고가 바둑기사 이세돌을 꺾은 후 국내에서도 인간을 뛰어넘는 AI에 대한 관심이 급격히 커졌습니다. 인간을 이긴 AI의 등장에 충격과 두려움을 느끼는 반응도 있었지만, 알파고는 오히려 딥러닝 기술의 결정체로 주목받았습니다. 획기적인 기술의 발전에 환호하는 반응을 보이는 이들도 있었습니다.

‘불쾌한 골짜기’는 인간이 인간이 아닌 존재를 볼 때, 인간과의 유사성이 높을수록 호감도가 높아지지만, 일정 수준에 다다르면 오히려 불쾌감을 느낀다는 로봇 공학 이론입니다.

아이러니하게도 최근 기업들은 더 사람 같은 가상 인간을 만들기에 혈안이 돼 있습니다. 호감이 비호감으로 바뀌는 적정 수준이 어디인지는 아직 아무도 모르기 때문입니다. 불쾌한 골짜기의 모호한 경계 속에서 사람과 비슷한 AI를 개발하기 위한 시도는 끊이지 않고 있습니다. 챗봇이 대표적인 사례입니다.

AI 챗봇 이루다 논란은 어쩌면 사람과 비슷한 무형의 존재를 만들어 내려다 발생한 시행착오이기도 합니다. 보다 더 사람같이 대답하기 위해 실제 대화 데이터를 학습하는 과정에서 개인정보 침해와 성차별, 그리고 혐오 논란이 발생했기 때문입니다.

다양한 논란들이 있지만 여전히 산업계는 인간과 비슷한 역할을 할 수 있는 AI에 대한 관심이 지대합니다. 인간과 비슷한 성능을 낼수록 더 많은 돈을 벌 수 있기에, 이 같은 방향성은 한동안 지속될 것으로 보입니다. 시장조사업체 이머전리서치는 2030년에 전 세계 가상 인간 시장이 5,275억 8,000만 달러 규모로 성장할 것으로 전망했습니다.

AI 챗봇 시장도 빠르게 성장 중입니다. 시장조사업체 마켓 인텔리전스 데이터에 따르면, AI 기반 챗봇 시장은 2021년부터 2027년까지 연평균 23.63% 성장해 2026년 46억 달러에 달할 전망입니다. 미래에는 개발자의 역할을 대신할 새로운 산업이 생겨날 수도 있습니다. 스스로 최적의 소프트웨어를 만들어 내는 소프트웨어 2.0이 어쩌면 그 시작점이 될 수도 있습니다.

AI 천재가 외친 소프트웨어 진화론

챗봇 외에도 더 효율적으로 인력을 관리하고, 더 많은 수익을 낼 수 있는 서비스나 제품을 개발하기 위해선 AI 활용은 선택이 아닌 필수가 됐습니다. 사람의 역할을 대신해 줄 AI 개발은 거의 모든 기업 초미의 관심사입니다.

자율주행도 마찬가지입니다. 테슬라를 더 이상 자동차 기업이 아닌 소프트웨어 기업으로 봐야 한다는 시각이 많은 이유는 자율주행 시스템과 AI는 떼려야 뗄 수 없기 때문입니다. 테슬라의 자율주행 기술 개발을 주도하던 안드레이 카파시는 업계에서 손꼽히는 AI 전문가입니다. 지금은 테슬라에 몸담고 있지 않지만, 그는 테슬라에 입사하자마자 소프트웨어 2.0을 외치며 자율주행차 기술에 적용했습니다.

소프트웨어 2.0은 사람과 비슷한 인지 능력을 보유하기 위해 지속해서 학습하며 스스로 성장하는 기술을 의미합니다.

그는 인간이 인공신경망에 가이드라인을 세세히 주지 않더라도 충분한 데이터를 넣어 컴퓨팅파워로 신경망을 학습시키면, 컴퓨터가 스스로 최고의 개발물을 내놓을 것이라고 주장했습니다. 이 기술은 현재 테슬라 자율주행 시스템의 핵심 기술이자 근간을 이루는 플랫폼이 됐습니다.

다시 말해 소프트웨어 2.0은 사람이 아닌 인공 신경망이 스스로 데이터를 통해 코드를 만드는 것입니다. 기존에는 사람이 컴퓨터에 알고리즘을 넣은 뒤 조건을 주고 결과를 산출시켰습니다. 이 과정에서는 인간이 직접 코드를 짜는 과정이 필요했습니다.

하지만 개발 과정과 코드가 점점 더 복잡해질수록 인간도 컴퓨터도 능력의 한계를 맞이하고 있습니다. 이를 단순화해 줄 ‘무언가(something)’가 필요한 시점인 셈입니다.

카파시는 스스로 코드를 짜는 소프트웨어 2.0 구축을 통해 인간이 풀 수 없던 문제를 해결할 수 있다고 말합니다. 이는 소프트웨어를 쓰는 방법의 근본적인 변화를 의미하는데요. 컴퓨터 프로그래밍의 패러다임을 바꾼다는 점에서 개발자들도 주목하고 있습니다.

국내에서도 소프트웨어 2.0에 관심을 보이는 기업과 기관들이 늘고 있습니다. 한국전자통신연구원(ETRI)은 소프트웨어 2.0을 ‘2022년 10대 기술 전망’으로 선정하기도 했습니다.

소프트웨어 2.0 시대가 온다

적합한 데이터를 충분히 넣어주기만 하면 완벽한 결과물이 나온다는데, 사람이 머리를 쥐어짜며 코드를 만들 필요가 있을까요? 대답은 ‘아직은 그렇다’ 입니다.

소프트웨어 2.0은 분명 획기적인 방법론이지만 아직 생겨난 지 얼마 되지 않았기에 허점이 있을 수밖에 없습니다. 이를 주창한 카파시조차도 소프트웨어 2.0의 한계를 인정했을 정도인데요. 그는 AI 데이터 라벨링의 문제를 자신의 트위터에서 밝히기도 했습니다.

또한 그는 최적화 작업이 끝나면 잘 작동하는 결과물은 남아 있지만 어떻게 동작하는지는 인간이 알 수 없다는 점을 소프트웨어 2.0의 한계로 지목했습니다. 90% 정확하지만, 이해할 수 있는 모델과 99% 정확하지만, 이해할 수 없는 모델 중 우리가 선택해야 하는 상황이 오는 것입니다.

향후 소프트웨어 1.0이 책임지는 많은 부분을 소프트웨어 2.0이 장악할 수 있습니다. 범용 인공지능(AGI)을 개발할 때 소프트웨어 2.0으로 작성될 가능성도 높습니다. 실제로 GPT-3와 같은 초거대 언어 모델 등에서 성공 사례가 만들어지고 있습니다.

복잡해진 AI, AI 엔지니어링에 주목해야 하는 이유

인공 신경망이 데이터를 통해 스스로 학습해 프로그램을 구현하는 시대가 온다면, AI의 활용은 활발해질 것입니다. 하지만 복잡성으로 인해 통합과 보안 등 다양한 문제가 발생할 수 있습니다.

새로운 기술 트렌드로 AI 엔지니어링이 주목받는 이유가 여기에 있습니다.

가트너는 2021년 AI 엔지니어링을 2022년 가장 중요한 전략적 기술 트렌드로 꼽았습니다. AI 엔지니어링은 데이터, AI 모델, AI 애플리케이션을 지속적으로 유지보수하기 위해, AI 모델을 지속적으로 학습 및 배포, 서빙하는 체계를 구현하고, 이를 통해 실제 AI 애플리케이션의 가치를 최적화하는 엔지니어링 기술을 의미합니다.

대부분 애플리케이션에 AI 기술을 통합시키려고 하면서, 애플리케이션 개발 기술과 AI 모델 개발 기술, 그리고 이들에 대한 유지보수 방법에는 차이가 있음을 간과합니다. 이로 인해 다수의 AI 프로젝트에서 시간과 비용이 낭비되고 있죠. 특히 유지보수 단계에서 많은 어려움이 발생하고 있습니다. 이 문제를 AI 엔지니어링이 해결해 줄 수 있습니다.

기업은 AI로부터 얻을 수 있는 비즈니스적 가치를 극대화하기 위해, 지속해서 AI 모델과 애플리케이션을 업데이트해 최적화를 진행해야 합니다. 지속적인 업데이트가 필요한 AI 모델 업데이트 분야를 공식적으로 운영하고 관리해야 비즈니스 성과를 높일 수 있기 때문입니다.

AI 엔지니어링은 AI 개발을 위한 데이터, 알고리즘, 지표를 관리, 운영하기 위한 기술과 체계 등 AI 모델의 전체적인 운영을 관리하는 데 초점을 맞춥니다.

AI 기법이 통합된 비즈니스 솔루션을 만들고 유지 및 관리를 위해 AI 엔지니어링 전략을 도입하는 기업들이 늘어날 것이란 전망이 나오고 있습니다. 가트너는 2025년까지 10%의 기업이 AI 엔지니어링 모범 사례를 구현할 것이며, 이는 나머지 90%의 기업들보다 AI로 3배 이상의 가치를 끌어낼 수 있을 것으로 추정했습니다. 이는 향후 AI 비즈니스 가치 극대화를 위한 전략적 엔지니어링의 중요성이 커진다는 것을 의미합니다.

해외 사례도 하나둘씩 늘고 있습니다. 유니티헬스, 록히드마틴, 렉시스넥시스와 같은 민간뿐만 아니라 미국 카이저 병원, 덴마크 기업청과 같은 의료와 공공분야에서도 AI 엔지니어링에 관심을 보이고 있습니다.

AI 기술의 발전과 함께 소프트웨어 생태계가 빠르게 변화하는 만큼 새로운 소프트웨어 생태계에 어떻게 대비해야 할지 기업들이 선제적인 고민이 필요한 시점입니다.

글 ㅣ 류은주 ㅣ IT 칼럼니스트