2024년을 지나며 한껏 부풀었던 생성형 인공지능(Generative AI, 이하 GenAI)에 대한 기대감이 점차 가라앉고 있습니다. 마치 뜨거운 감자처럼 여겨졌던 GenAI가 이제는 차분한 평가의 시간을 맞이하며, 2025년에는 더욱 현실적인 접근과 실질적인 가치 창출에 대한 요구가 높아질 전망입니다. 이는 마치 새로운 기술이 등장할 때마다 겪는 성장통과 같은 과정으로, ‘환멸의 계곡(Trough of Disillusionment)’을 지나 진정한 가치를 발휘하기 위한 준비 단계로 볼 수 있습니다.
기대감의 정점에서 환멸의 계곡으로: GenAI, 현주소는?
시장 조사 기관 가트너(Gartner)의 2024년 8월 신흥 기술 하이프 사이클에 따르면, 생성형 AI 는 이미 ‘기대 거품의 정점(Peak of Inflated Expectations)’을 지나 ‘환멸의 계곡’으로 이동 중입니다. 이는 초기 GenAI의 무한한 가능성에 대한 열광이 실제 기술 구현의 어려움, 높은 비용, 그리고 복잡성과 마주하며 점차 식어가고 있음을 의미합니다. AI 기술을 활용한 소프트웨어 개발 방식인 AI 증강 소프트웨어 엔지니어링(AI-augmented software engineering) 역시 비슷한 길을 걷고 있으며, AI에게 원하는 결과물을 얻어내기 위한 명령어 작성 기술인 프롬프트 엔지니어링(Prompt engineering)은 이제 막 기대 거품의 정점에 도달한 것으로 평가됩니다.
이러한 현상의 주요 원인으로는 먼저, 높은 기대치와 현실 간의 간극 을 꼽을 수 있습니다. GenAI가 마치 모든 문제를 해결해 줄 것처럼 여겨졌지만, 실제로는 학습 데이터의 품질, 알고리즘의 한계, 그리고 예상보다 높은 운영 비용 등이 현실적인 장벽으로 작용했습니다. 또한, 기업들이 GenAI를 효과적으로 도입하기 위해 필수적인 고품질 데이터 확보와 AI 모델의 윤리적 사용을 위한 거버넌스 체계 마련에 어려움을 겪는 것도 주요 원인입니다.
더불어, GenAI 도입의 투자수익률(ROI)을 단기적으로 증명하기 어렵다는 점 도 기대감 하락에 영향을 미쳤습니다. 생산성 향상이나 창의성 증진과 같은 GenAI의 이점은 장기적이거나 간접적인 경우가 많아, 즉각적인 재무 성과로 연결하기 어렵기 때문입니다. 실제로 리타 살람(Rita Sallam) 가트너 부사장 분석가는 "생산성과 같은 많은 이점이 미래에 재정적 결과를 창출하는 간접적이거나 비재무적인 영향을 미치기 때문에 ROI 표현이 어렵다"고 언급했습니다. Human Risks의 2025년 1월 보고서에 따르면, RAND Corporation은 AI 프로젝트의 80%가 실패하며, 이는 다른 IT 프로젝트 실패율의 두 배에 달한다고 지적할 정도로 생성형 AI 프로젝트의 성공률 또한 아직은 높지 않은 상황입니다.
과대광고는 이제 그만, 실질적 가치를 찾는 기업들
Google Gemini, Anthropic Claude, Amazon Bedrock, OpenAI GPT-4와 같은 주요 파운데이션 모델에 대한 초기 열광이 점차 사그라들면서, 기업들은 이제 생성형 AI 를 통해 구체적인 투자수익률(ROI)을 창출할 수 있는 실용적인 활용 사례에 집중하는 경향을 보이고 있습니다. (Computerworld, 가트너 분석가 아룬 찬드라세카란(Arun Chandrasekaran) 인용)
Human Risks는 2025년 전망에서 AI 도입은 꾸준히 이어지겠지만, 과장된 광고보다는 실제 업무에 도움이 되는 실용적인 도구의 구현과 채택에 대한 관심이 높아질 것이라고 예측했습니다. 즉, ‘ 생성형 AI 를 위한 AI’가 아닌, 실제 비즈니스 문제를 해결하고 성과를 낼 수 있는 방향으로 AI 활용 전략이 전환되고 있는 것입니다.
생성형 AI의 현재 한계점: 냉정하게 바라보기
Human Risks의 2025년 1월 분석에 따르면, 생성형 AI 는 여전히 몇 가지 중요한 한계점을 안고 있습니다. 첫째, 데이터 품질 및 정확성 문제 입니다. AI 모델의 성능은 학습 데이터의 질에 크게 의존하기 때문에, 데이터에 오류가 있거나 특정 편향이 포함되어 있다면 AI가 생성하는 결과물의 신뢰도는 떨어질 수밖에 없습니다.
둘째, 투명성 부족, 즉 ‘블랙박스’ 문제 입니다. 특히 복잡한 신경망 구조를 가진 딥러닝 모델의 경우, AI가 특정 결론에 도달하는 과정을 명확하게 설명하기 어려워 의사결정에 대한 신뢰를 얻기 어렵고, 문제가 발생했을 때 책임 소재를 규명하기도 힘듭니다.
셋째, 과적합(Overfitting) 및 과거 데이터 의존성 입니다. AI 모델이 학습 데이터에 지나치게 최적화되면, 새롭거나 예상치 못한 상황에는 제대로 대응하지 못할 수 있습니다. 또한, 과거의 데이터를 기반으로 학습하기 때문에 완전히 새로운 유형의 위협이나 빠르게 변화하는 트렌드를 예측하고 반영하는 데 한계가 있습니다.
넷째, 구현의 복잡성과 높은 비용 도 무시할 수 없습니다. 기존 시스템에 AI를 통합하는 것은 기술적으로 까다로우며, 상당한 초기 투자 비용과 함께 AI 모델 운영을 위한 높은 컴퓨팅 자원 및 전력 소비 등 지속적인 운영 비용이 발생합니다. 마지막으로, AI가 인간의 많은 업무를 완전히 대체할 것이라는 초기 과장된 기대치를 현실적으로 조정 할 필요가 있습니다. 현재로서는 AI가 인간 전문가를 보조하고 특정 반복 작업을 자동화하는 데 더 효과적이라는 인식이 점차 확산되고 있습니다.
2025년, 생성형 AI의 현실적 접근 방향과 미래 전망
그렇다면 2025년, 생성형 AI 는 어떤 방향으로 나아가게 될까요? 전문가들은 다음과 같은 변화와 전망을 예측하고 있습니다.
가. 기업의 AI 도입 전략 변화: 실용성과 맞춤화, 그리고 AI 에이전트의 부상
2025년에는 기업들이 막연한 기대감보다는 명확한 비즈니스 목표 달성과 투자수익률(ROI) 창출에 기여할 수 있는 현실적인 AI 활용 사례에 집중할 것으로 보입니다. (Opentools.ai) 범용적인 GenAI 모델보다는 특정 산업이나 기업의 고유한 문제를 해결할 수 있는 맞춤형 AI 애플리케이션 개발 및 도입이 확산 될 것입니다.
특히, AI 에이전트(Agentic AI)의 부상 이 주목됩니다. AI 에이전트는 데이터를 수집하고, 이를 바탕으로 스스로 판단하여 정해진 목표 달성을 위한 작업을 자율적으로 수행하는 소프트웨어 프로그램입니다. 예를 들어, 고객 문의에 응대하거나, 정보를 검색하고 요약하며, 특정 업무를 자동화하는 역할을 수행할 수 있습니다. 가트너는 AI 에이전트 형태의 자율 AI(Autonomous AI) 채택이 ROI 집중과 맞물려 더욱 촉진될 것으로 전망했습니다. (Computerworld) Opentools.ai는 에이전트 AI가 GenAI와 전통적인 코딩 방식을 결합하여 자율적인 작업 완료를 가능하게 하며, 이는 AI 기술의 중요한 진화 단계라고 설명했습니다. 다만, 신중한 구현과 윤리적 고려가 반드시 수반되어야 합니다. Human Risks는 2025년까지 GenAI 사용 기업의 25%가 AI 에이전트를 배포하고, 2027년에는 이 수치가 50%까지 증가할 것으로 예상했습니다.
또한, AI 기능이 기본적으로 탑재된 차세대 SaaS(Software as a Service) 애플리케이션이 주류 를 이루면서, 기업들이 기존 업무 환경 내에서 더욱 자연스럽게 AI를 활용할 수 있게 될 것입니다. (Opentools.ai)
나. 기술적 발전과 극복 과제: 효율화, 설명 가능성, 데이터 품질 향상
높은 운영 비용 문제를 해결하기 위해 더 작고 효율적인 특정 목적의 AI 모델(sLM, Small Language Model 등) 개발 이 활발해질 것입니다. 또한, AI의 의사결정 과정을 투명하게 만들어 신뢰도를 높이기 위한 설명 가능한 AI(Explainable AI, XAI) 연구 도 지속적으로 이루어질 것입니다. 마지막으로, 고품질의 다양한 데이터셋 구축과 데이터 편향성 제거 기술 개발은 여전히 중요한 과제로 남아 있습니다.
다. 규제 및 윤리적 논의 심화: 책임감 있는 AI 시대로
EU의 AI 법(AI Act) 시행(2025년 1월 예정)을 시작으로, 각국 정부와 국제기구의 AI 관련 규제 및 가이드라인 마련 움직임이 본격화될 것입니다. 이러한 규제는 AI의 투명성, 책임성, 안전성 확보를 목표로 합니다. (Opentools.ai) AI 안전 연합(AI Safety Alliance)과 같은 산업계의 자발적인 노력과 함께, 책임감 있는 AI 개발 및 배포를 위한 표준 수립 논의도 활발해질 것입니다. (Opentools.ai, Computerworld) 이와 더불어 일자리 변화, 디지털 격차, 개인 정보 보호, AI의 자율성과 통제 등 AI 발전이 가져올 사회적 영향에 대한 심도 있는 논의와 대비책 마련 역시 중요해질 것입니다.
마무리하며: 환멸의 계곡을 지나 생산성 안정 단계로
2025년은 생성형 AI 에 대한 거품이 빠지고 실질적인 가치를 증명해야 하는 중요한 시험대가 될 것입니다. 기업들은 단기적인 성과에 집중하고, AI 에이전트와 같이 더욱 구체적이고 효율적인 솔루션을 모색하며, 강화되는 규제 환경에 적극적으로 대비해야 합니다.
‘환멸의 계곡’을 성공적으로 통과한 기술과 기업만이 장기적인 성장과 시장 주도권을 확보할 수 있을 것입니다. 가트너는 GenAI의 장기적인 잠재력은 여전히 매우 크지만, ‘생산성 안정 단계(Plateau of Productivity)’에 도달하기 위해서는 단기적인 위험 요소들을 해결해야 한다고 강조합니다. (Computerworld, 아룬 찬드라세카란 인용) Opentools.ai는 AI가 엔터프라이즈 소프트웨어의 핵심 구성 요소로 자리 잡고, 기존 사용자 인터페이스를 넘어 데이터베이스와 직접 상호작용하게 되면서 신뢰와 통제가 AI 채택의 중요한 고려 사항이 될 것이라고 예측했습니다. 결국, 2025년은 생성형 AI 가 화려한 수식어를 넘어 우리 삶과 비즈니스에 실질적인 변화를 가져올 수 있을지를 가늠하는 중요한 분수령이 될 것입니다.