[더벨] "LLM 사업 원년, 온프레미스·자체엔진 승부"
2024.08.14
② 김승기 코난테크놀로지 부사장 "생성형 AI 구축 사업 집중"
코난테크놀로지는 올해를 대규모언어모델(LLM) 사업을 원년으로 내세웠다. 마이크로소프트(MS), 구글, 메타를 비롯해 네이버, 카카오 등 빅테크 기업들이 각축전을 벌이고 있는 생성형 AI 시장에서 '틈새시장'을 공략하겠다는 출사표를 던졌다.
김승기 코난테크놀로지 부사장(사진)은 더벨과의 인터뷰에서 "코난테크놀로지의 주요 공략 대상은 공공기관과 기업"이라며 타깃층을 강조했다. 기밀정보 유출 등 우려로 IT 시스템을 폐쇄적으로 운용할 수밖에 없는 기업·기관의 경우 챗GPT와 같은 오픈서비스를 이용하는 데 한계가 있는 만큼, 이들 시장을 공략하겠다는 전략이다.
생성형 AI를 서비스하는 빅테크 기업 상당수는 클라우드 기반으로 서비스를 제공한다. 최근에는 온프레미스 시장으로 진입하려는 움직임이 조명되고 있지만 기술지원이나 가격 등을 고려하면 코난테크놀로지를 비롯한 국내 기업들에게도 기회가 있다.
경쟁 상대를 온프레미스 AI 사업을 하는 국내 기업들로 한정할 경우 코난테크놀로지의 지위는 더 높아진다. 지난 6월 수주한 37억원 규모의 한국남부발전 생성형 AI 구축·학습 용역 사업이 예다. 사업에는 그리드원, 솔트룩스, 마음AI 등이 참여했지만 코난테크놀로지가 승리했다. 그동안 개념증명(PoC)나 소규모 사업만 진행되던 국내 시장에서 보기 드문 내부 구축 사업이다.
그는 메타 등이 공개한 기초모델(FM)을 바탕으로 LLM 비즈니스를 펼치고 있는 기업들과의 차별점도 강조했다. 해외 기업의 언어모델은 영어를 위주로 학습한 만큼 기대하는 만큼의 한국어 성능이 나오기 힘들다는 한계가 있었다. 추가 학습 과정에서의 성능 저하도 있었다.
김 부사장은 "무작정 한글 토큰을 늘린다고 해서 성능이 좋아지진 않을뿐더러 특정 고객 사이트에 맞게 개별적으로 학습을 해야 한다. 그런데 그 과정에서 기존 학습된 데이터가 깨지는 '파괴적 망각' 현상이 발생한다. 이걸 추스르려면 양질의 데이터셋과 엔진이 필요하다"고 밝혔다.
파괴적 망각은 사람으로 비유하면 알츠하이머형 치매와 닮았다. 고양이와 개를 잘 구분하도록 학습된 AI에 코끼리, 토끼 등을 추가했더니 아무것도 구분할 수 없게 되곤 한다. 모델 설계단에서 기술·데이터를 갖춘 기업이 유리할 수밖에 없다는 설명이다.
코난테크놀로지의 핵심 비즈니스는 AI 기반의 검색엔진 솔루션 '코난서치’, 멀티모달 영상분석·자산관리 솔루션 '코난와처', 빅데이터 솔루션 '코난애널리틱스', 펄스케이 등이다. LLM의 경우 신사업으로 아직 매출로 집계되고 있지 않다. 기존 검색엔진이나 챗봇 등에 더해져 보조하는 형태다. 이와 관련 김 부사장은 "올해는 LLM 구축 사업을 중심으로 단위 사업 확대에 집중할 계획"이라고 피력했다.
그는 "포인트 솔루션의 경우 시스템통합(SI) 기업의 사업에 참여하는 방식으로 영업하는 비율이 6:4 정도로 더 많다. 이와 달리 LLM은 단독으로 영업을 하다 보니 비즈니스 형태가 다르다"라며 "올해부터 사업이 점차 시작돼 내년부터 LLM 사업이 본격화될 것으로 전망된다"고 말했다.
코난LLM 문서작업 활용 예시
LLM 구축 사업이 당장의 매출원이라면 온디바이스 AI는 장기적인 관점에서의 투자다. 코난테크놀로지는 지난 6월 삼성전자의 스마트폰 '갤럭시 S24 울트라'에 자사 AI를 탑재한 데모를 시연했다. 한국어 음성을 인식하고(STT), LLM이 번역한 뒤 이를 영어 음성으로 제공하는(TTS) 방식의 실시간 번역 서비스다. 네트워크 연결 없이 디바이스 자체에서 제공된다.
김 부사장은 "실시간 번역은 품질과 함께 속도가 굉장히 중요하다. 리얼타임까지는 아니더라도 1초 이내에 답이 나와야 한다. 이를 위해 성능은 나오면서 개인용 기기에서 사용할 수 있도록 균형을 맞췄다"며 "서울지하철 주요 역사나 롯데백화점, 파라다이스카지노 등에서 설치돼 사용되고 있다"고 전했다.
코난테크놀로지는 사업 수주 후 매출에 반영되기까지의 시차가 있다 보니 실적이 들쭉날쭉하다. 2년 전에는 매출이 13.7% 줄었지만 지난해에는 58.7% 늘었다. 매출로 인식되지 않는 수주 잔고는 1분기 기준 215억원으로 연매출 수준까지 쌓였다.
그는 "매출을 인식하는 기준이 다른 기업과 많이 다르다. 사업 완성 시점에서 매출로 인식된다. 포인트 솔루션은 수주 후 2~3개월 내에는 매출이 나오는데 최근에는 1년 이상 장기 프로젝트가 많아지면서 수주잔고가 많이 늘었다"며 "정당한 평가를 위해 회계기준을 바꿀까 생각도 했지만 상장 2년 만에 바꾸는 것이 조심스러워 고민 중"이라고 말했다.
이어서 "상장 기업이라면 주가가 정당하게 평가돼 투자자에게 이익을 돌려줘야 할 의무가 있다고 생각한다"며 "어떤 형태로든 주주들에게 환원할 수 있는 방안을 찾도록 하겠다. 지켜봐 달라"고 부연했다.
출처 : 더벨 이종현 기자 / 2024-08-14 / 뉴스 원문 바로가기※ 위 기사는 언론사 더벨에서 2024년 08월 14일에 발행한 코난테크놀로지 관련 기사입니다.
이전글
이전글이 없습니다.
다음글
[더벨] "12년간 축적한 데이터, LLM 자체개발 원동력"
2024.08.14