KT는 kt cloud, 삼성전자와 함께 ‘한국형 AI 풀스택 구현을 위한 차세대 메모리 기술협력’ 업무협약을 체결했다고 29일 밝혔다.
28일 오후 서울 강남구에 위치한 kt cloud 본사에서 열린 3사 협약식에는 KT 송재호 부사장, kt cloud 윤동식 사장, 삼성전자 김재준 부사장, 삼성전자 심은수 부사장 등 주요 관계자들이 참석했다.
3사는 이번 협약을 통해 삼성전자의 PIM과 PNM 환경에서 KT 초거대 AI ‘믿음’을 통한 ▲초거대 AI 모델의 메모리 영향성 분석, ▲AI 반도체 플랫폼 연구, ▲차세대 Cloud 솔루션 등 AI 풀스택 역량 강화를 위해 협력할 예정이다.
한국형 AI 풀스택이란 국산 AI 반도체와 소프트웨어, 클라우드 등의 인프라부터 AI 응용 서비스까지 모두 아우르는 제품과 서비스를 의미한다.
PIM(Processing-in-Memory)이란, 저장 작업을 하는 메모리 반도체에 연산 작업을 하는 프로세서 기능을 더한 지능형 반도체다. 메모리 안에서 간단한 연산을 수행할 수 있어 데이터 이동 횟수가 줄어들고 병목 현상이 줄어든다는 장점이 있다. PNM(Processing-near-Memory)이란, 메모리 가까운 위치에 연산 기능을 배치해 CPU와의 데이터 전송 시간을 최소화하는 기술이다.
AI 서비스를 개발하는 과정에서 기존의 AI 인프라를 사용할 경우, 연산 속도와 전력 소비 등에서 비효율이 발생하는 문제가 있었다. KT와 kt cloud는 이를 해결하기 위해 AI 연산에 최적화된 AI 반도체인 NPU(Neural Processing Unit)를 반도체 설계 기업인 리벨리온과 함께 지난 5월 kt cloud에서 상용화했다.
나아가 KT와 kt cloud는 한국형 AI 풀스택 완성을 위해 KT의 초거대 AI 모델 ‘믿음’을 활용해 삼성전자의 PIMPNM 인프라 실증 연구와 기술 협력에 나선다. AI 서비스를 사용할 때 답변이 뚝뚝 끊기는 것과 같은 ‘메모리 병목 현상’을 해결하기 위해 삼성전자의 스마트 인프라 기술을 도입해 한국형 AI 풀스택을 한층 더 강화한다는 계획이다.
