인텔, 11억 5천만 뉴런 내장 신경망 컴퓨터 '할라 포인트' 공개

신경망 칩 '로이히2' 1천152개로 구축...초당 최대 20경 번 연산

반도체ㆍ디스플레이입력 :2024/04/18 11:01    수정: 2024/04/18 13:17

인텔은 18일 11억 5천만 뉴런을 내장한 세계 최대 규모 뉴로모픽 시스템 '할라 포인트'(Hala Point)를 미국 샌디아 국립 연구소에 구축했다고 밝혔다.

할라 포인트는 2021년 인텔이 공개한 뉴로모픽 칩인 로이히2(Loihi 2) 기반으로 구축됐다. 로이히2는 인텔 4 공정에서 생산된 칩으로 23억 개 트랜지스터를 이용해 1백만 개의 뉴런을 형성했다.

할라 포인트는 6랙 유닛 섀시에 로이히2 칩 1천152개와 보조 연산을 위한 x86 임베디드 프로세서 2천300개를 이용해 11억 5천만 개의 뉴런과 1천280억 개의 시냅스를 구현했다. 소모 전력은 최대 2천600와트 수준이다.

로이히2 기반 신경망 컴퓨터 '할라 포인트'. (사진=인텔)

인텔은 "할라 포인트는 기존 심층 신경망 연산 처리시 8비트 기준 와트당 15 TOPS(초당 조 횟수의 연산 처리) 이상, 초당 최대 20 POPS(초당 1천조 번 연산 처리) 처리가 가능하다"고 밝혔다.

이어 "이는 현재까지 CPU나 GPU 기반 아키텍처로 구현한 연산 플랫폼을 넘어서는 수준이며 카메라의 영상 등 실시간으로 입력되는 데이터를 배치 단위로 처리해 지연 시간이 발생하는 기존 GPU와 달리 지연 시간을 단축할 수 있다"고 밝혔다.

2021년 9월 공개된 로이히2 뉴로모픽 칩. (사진=인텔)
할라 포인트는 로이히2 칩 1천152개와 보조 연산을 위한 x86 임베디드 프로세서 2천300개를 탑재했다. (사진=인텔)

마이크 데이비스 인텔 랩스 이사는 "오늘날 AI 모델의 컴퓨팅 비용은 지속 불가능한 속도로 증가하고 있다. 업계에는 확장이 가능한 근본적으로 새로운 접근 방식이 필요하다”고 밝혔다.

이어 "인텔은 딥 러닝 효율성과 뇌와 유사한 새로운 학습 및 최적화 기능을 결합해 할라 포인트를 개발했다. 할라 포인트를 통한 연구가 대규모 AI 기술의 효율성과 적응성을 발전시킬 수 있기를 기대한다"고 밝혔다.

관련기사

샌디아 국립 연구소는 뇌 구조를 모방한 AI 연구, 소모 에너지와 관련 비용을 줄이는 지속 가능성과 관련한 과제 해결에 할라 포인트를 이용할 예정이다.

크레이그 빈야드 샌디아 국립 연구소 할라 포인트 팀장은 "할라 포인트를 활용하며 샌디아 팀의 연산 및 과학적 모델링 문제 해결 능력이 향상됐으며 향후 상업에서 국방, 기초 과학에 이르기까지 다양한 분야에서 AI의 진화에 발맞출 수 있을 것"이라고 밝혔다.