[더페어] 백상일 기자 = 신한은행이 생성형 AI플랫폼 구축을 본격화하고 있다.
17일 ICT업계에 따르면 신한은행은 생성형 AI플랫폼 구축을 위해 참여 사업자를 모집하고 있다.
플랫폼 구축 사업 내용을 보면 생성형 AI 모델 및 RAG 기반 서비스 개발과 서빙 플랫폼 구축, 은행내 비정형 데이터 플랫폼 및 기간 시스템 간 연계 기능 개발, 생성형 AI 서비스 마이그레이션 등이다.
플랫폼 구축 사업에 투입되는 예산은 약 87억원으로 서버와 스토리지, 네트워크 장비 도입은 별도로 이뤄진다.
업체 선발 방식은 기술평가 80%와 가격 평가 20%를 더해 고득점자 순으로 협상을 진행할 계획이다.
또 생성형 AI플랫폼 구축 서버는 운영환경과 개발환경으로 나눠서 도입한다. 운영환경은 죽전데이터센터 개발환경은 일산데이터센터에 설치될 것으로 보인다.
서비스 클러스터 부분에 관리 노드 및 GPU 관리 신규 8대, 워크 노드 신규 9대를 도입한다.
GPU Farm 부분에는 H200 * 8 node 신규 3대를 도입하며, InfiniBand NDR 64 Port 스위치 2대와 서버 RACK 6대를 도입한다.
저장장치는 학습용 GPU Direct 지원 스토리지와 생성형 AI 모델 보관용 NAS 등을 도입할 예정이다.
신한은행 관계자는 “금융위원회 혁신금융서비스 지정 이후 생성형 AI플랫폼 구축을 준비하고 있다”면서 “내년 상반기 중 운영 시작하는 것을 목표로 하고 있다”고 말했다.