본문 바로가기

블로그

IT 트렌드의 최신 소식을 만나보세요.

인공지능

LG CNS의 SW2.0, “Software with AI”

2022.09.15

요즘 IT 관련 신문 기사에는 대부분 AI에 대한 주제가 포함돼 있습니다. 연구실에서만 존재할 것 같았던 AI는 이제 세상 밖으로 나와 우리 모두의 실생활과 밀접하게 연결되고 있죠. 이는 AI 기술이 이미 실체화됐다는 것을 보여줍니다.

그러다 보니 AI를 적용하는 현장 분위기와 관심도 ‘AI 알고리즘’ 중심에서 ‘AI를 적용하는 시스템의 구축, 그리고 운영’으로 이동하고 있습니다. 이를 뒷받침하듯 가트너도 2022년 ‘전략기술 트렌드 톱12’ 중 하나로 ‘AI 엔지니어링’을 선정했습니다. 기술 트렌드를 알 수 있는 하이퍼 사이클 그래프에서도 우리가 준비해야 하는 기술로 AI를 개발하고 운영을 잘하게 하는 기술인 ‘MLOps(Machine Learning Operations)’를 언급하고 있습니다.

2000년대 초에 시작된 메인프레임에서 웹 환경으로의 아키텍처 변환을 생각해봅시다. 처음에는 기술 구현에 관심이 집중됐다가 엔터프라이즈에 적용되며 많은 문제가 발생하면서, 이에 대한 보완으로 프레임워크, 아키텍처 표준 등 거버넌스로 관심이 이동했습니다. AI 기술로 구현된 시스템 또한 이와 유사한 움직임이 일어나고 있습니다.

이러한 변화에 발맞춰 LG CNS에서는 ‘Software with AI’를 런칭했습니다.

Software with AI란?

‘Software with AI’는 AI 소프트웨어를 구축하고 운영하는 절차, 도구, 기법, 산출물을 정리한 LG CNS의 역량이 집중된 총괄 방법론입니다. LG CNS의 지난 30여년 간의 소프트웨어 공학 관점의 시장 선도 경험과 통합 아키텍처링 역량이 담겨있는데요. AI 기술로 구현된 시스템을 효과적으로 구현하고 효율적으로 관리할 수 있도록 합니다.

[그림 1] LG CNS의 Software with AI 정의

LG CNS의 Software with AI는 AI 기술을 현장에 적용하면서 얻은 Lessons Learned를 반영하고 다음과 같은 이슈에 중점을 두어 구성했습니다.

첫째, AI 소프트웨어만으로는 우리 실생활에 AI가 접목될 수 없습니다. 반드시 Code Based Software와 결합해야 하는 AI 시스템의 특징을 반영해야 합니다. Code Based 상담 시스템은 AI 기반의 챗봇이, Code Based 보험 인수심사 시스템은 AI 인수 심사 기술이 결합됐습니다. Software with AI는 기존의 Code Based 시스템과 AI 소프트웨어를 구축하는 방안을 수립한 것입니다.

둘째, Code Based Software에서 지속적인 통합, 배포가 중요한 것처럼, AI 소프트웨어는 지속적인 통합, 배포뿐만 아니라 지속적인 학습도 매우 중요합니다. AI 모델 성능을 꾸준히 모니터링하고 필요시 데이터 수집부터 학습, 배포가 반복적이고 안정적으로 이뤄질 수 있도록 재학습 프로세스가 명시돼야 하죠. Software with AI는 이를 상세화했습니다.

셋째, 지금까지 현장에서는 모델 성능에 관심이 집중됐고 모델을 서비스해야 하는 추론 환경에는 상대적으로 관심이 적었습니다. 그러나 실제로 모델이 적용되는 시스템은 추론 환경이므로 추론 환경의 성능, 안정성, 가용성이 중요합니다. Software with AI에서는 안정적인 추론 서비스를 제공하기 위한 통합 아키텍처를 수립하고 이를 정의했습니다.

Software with AI의 구성요소와 특장점

[그림 2] Software with AI 구성 요소

LG CNS는 AI 시스템 적용 니즈를 반영해 Software with AI를 총 15개 항목으로 구성했습니다. 각 기업이 AI 시스템을 구축 ・운영할 때 필요한 AI 시스템의 전사 거버넌스, 통합 아키텍처, 개발표준과 MLOps 기술을 시스템의 라이프 사이클에 반영했습니다.

[그림 3] Software with AI 구성 요소 상세 내용

Software with AI만이 가지는 장점을 다음과 같이 살펴볼 수 있습니다.

개발 프로세스 명확화
AI 단독으로만 구축되는 시스템은 존재하지 않기 때문에 AI 소프트웨어를 개발하는 프로세스는 기존 Code Based Software와 통합된 프로세스로 정의해야 합니다. 또한 기존 소프트웨어 구축에 대한 단계별 테스트가 있듯, AI 소프트웨어의 품질 확보를 위한 단계별 테스트가 정의돼야 합니다. 가장 중요한 재학습 프로세스 또한 상세화돼야 하는데요. LG CNS Software with AI는 기존 Code Based Software와 통합된 프로세스를 정의하고, AI 소프트웨어 품질 확보를 위한 단계별 테스트를 정의하며, 재학습 프로세스를 상세화합니다.

재사용성, 유연성, 유지보수성을 고려한 프레임워크/개발 표준 정의
LG CNS Software with AI에서는 AI 모델 개발과 추론 개발 시 적용해야 하는 재사용성 및 유연성, 유지보수성을 고려한 프레임워크/개발 표준이 정의돼 있습니다. AI 소프트웨어도 운영 시스템에서 구현되는 것이기 때문에 이 환경을 지원할 수 있는 프레임워크가 존재해야 하고, AI 소프트웨어는 품질을 위해 표준화된 개발 가이드 및 품질을 보증하는 파이프라인이 구성돼야 합니다.

기업에 맞는 DevMLOps(DevOps + MLOps) 체계 구현
MLOps는 단지 솔루션만 구매해 정의할 수 있는 것이 아닙니다. 기업 정책에 맞는 프로세스로 정의되고, 기업이 요구하고 산업에 맞는 솔루션들과 통합돼야만 제대로 된 AI 시스템에 CI(Continuous Integration), CD(Continuous Deployment), CT(Continuous Training)를 반영했다고 할 수 있을 것입니다. LG CNS Software with AI에서는 이를 구체화하고 참조 기술셋을 바탕으로 기업에 맞는 MLOps 체계를 구축할 수 있도록 했습니다.

통합 인프라 아키텍처 설계 표준 제시
AI 시스템은 운영 환경입니다. 운영에 대한 가용성 및 성능 보장을 위해 개발・스테이지・운영계에 대한 기준이 수립돼야 합니다. 통합 아키텍처링, 특히, 추론에 대한 아키텍처는 AI 시스템 성공에 막대한 영향을 미치게 됩니다. LG CNS Software with AI에서는 이러한 조건에 맞는 통합 아키텍처 설계 표준을 제시했습니다.

지금까지 미래의 기술 전략 키워드, AI 엔지니어링 관련 LG CNS의 자산인 Software with AI에 대해 소개했습니다.

우리는 많은 현장에서 AI 기술의 현실화 가능성을 보고 있습니다. 그리고 이 기술을 이용해 시스템을 구축하고자 하는 고객사의 니즈도 점차 커지고 있음을 체감합니다.

다양한 AI 시스템들이 우후죽순 구축되고 운영되고 있습니다. 개발은 순간이지만, 구축 시 운영 체계를 고려하지 않으면, 유지보수는 오랜 시간 지속돼 어려움을 겪을 수 있습니다. 이러한 문제를 예방하려면, 소프트웨어 2.0 시대에 대비한 구축 및 운영 체계를 구현해 기업의 DX 기술 현장 적용을 가속해야 합니다. LG CNS의 Software with AI와 함께한다면 이 어려운 과제를 체계적으로 준비해 나갈 수 있습니다.

[참고자료]

Gartner’s Top Strategic Tech Trends for 2022
Gartner’s Hype Cycle for AI, 2021

글 ㅣ 송혜린 ㅣ LG CNS Application Architecture/Software Engineering 기술 전문위원

챗봇과 대화를 할 수 있어요