BrainChip의 엣지 AI 로드맵에서 다음 단계에 해당하는 Sequora는 회사의 Akida™ 플랫폼이 지닌 강점을 기반으로 개발됐다(이미지 출처: Brainchip)
초저전력 완전 디지털 이벤트 기반 뉴로모픽 AI 분야의 글로벌 선도기업 브레인칩(BrainChip Holdings Ltd.)(ASX: BRN, OTCQX: BRCHF, ADR: BCHPY)가 대규모 언어모델(LLM)을 포함한 생성형 AI를 배터리로 구동되는 엣지 디바이스에서 직접 실행할 수 있는 프로세서 IP 코어인 ‘BrainChip Sequora™ Core IP’를 출시한다고 밝혔다.
브레인칩의 엣지 AI 로드맵에서 다음 단계에 해당하는 Sequora는 회사의 Akida™ 플랫폼이 지닌 강점을 기반으로 개발됐다. Sequora의 높은 효율성은 모델 구조에서 비롯된다. 상태공간(state-space) 설계를 적용해 데이터 스트림이나 대화가 아무리 길어져도 메모리 사용량이 일정하게 유지되도록 했다. 이를 통해 Sequora는 수백만 개의 매개변수를 가진 소규모 모델부터 최대 30억 개의 매개변수를 가진 모델까지 지원할 수 있다. 이에 따라 과거에는 신호를 인식하는 데 그쳤던 디바이스가 이제는 정보를 이해하고 설명하며 응답할 수 있게 됐으며, 이러한 기능은 고객들이 브레인칩에 기대하는 저전력 수준에서 구현된다.
ForwardEdge ASIC의 최고경영자(CEO) 프랭크 페란테(Frank Ferrante)는 “상업 및 항공우주·방위산업 분야의 고객들은 혼잡하고 적대적인 환경에서도 크기와 무게, 전력 소모를 최소화하면서 실시간 처리와 의사결정을 수행할 수 있는 차세대 엣지 시스템에 AI를 통합하고 있다”고 말했다. 그는 이어 “Sequora는 생성형 AI를 저전력 IP 코어에 구현해 우리가 개발하는 맞춤형 반도체의 다양한 요구사항을 충족한다”며 “이를 통해 임무 수행에 필수적인 엣지 ASIC에 온디바이스 인텔리전스를 추가할 수 있는 길이 열렸다”고 덧붙였다.
Sequora의 주요 기능
Sequora는 이어버드와 센서 노드 등 배터리 기반 디바이스에서 생성형 AI를 구현하는 데 걸림돌이 되어온 메모리 및 전력 소모 문제를 해결한다. Akida와 결합하면 두 가지 유형의 AI 작업을 하나의 솔루션에서 처리할 수 있다. Akida는 진동과 오디오, 레이더, 원시 무선주파수(RF) IQ 데이터 및 생체 신호 등 스트리밍 센서 데이터를 처리하는 반면, Sequora는 온디바이스 대규모 언어모델(LLM)과 음성 간 상호작용(voice-to-voice interaction), AI 에이전트 등을 포함한 생성형 및 순차적 AI 작업을 실행한다.
소비자용 음성 기기와 웨어러블부터 항공우주·방위산업, 자동차 및 산업용 레이더, 산업용 사물인터넷(IIoT), 의료·생체의학 기기에 이르기까지 다양한 시장에서는 하나의 제품에서 기존 AI 추론과 생성형 AI 추론을 모두 수행할 수 있는 기술이 요구되고 있다.
edgeAI Inc.의 최고경영자(CEO) 제이 김(Jay Kim)은 “엣지는 전력 계량기부터 모빌리티 시스템에 이르기까지 일상적인 인프라에서 AI가 실질적인 가치를 발휘하는 영역”이라며 “BrainChip은 엣지 AI 시장에서 효율성이 경쟁력을 결정하는 핵심 요소가 될 것이라는 점을 일찍부터 인식했다”고 말했다. 그는 이어 “이제 BrainChip은 동일한 접근 방식을 생성형 AI에도 적용해 소형 배터리로 구동되는 디바이스에 언어 이해와 추론 기능을 제공하고 있다”고 덧붙였다.
Sequora가 해결하는 주요 과제:
· 생성형 AI 모델이 메모리 대역폭의 한계로 인해 처리 성능이 저하되는 문제
· 대화 길이(컨텍스트 윈도)와 캐시가 증가함에 따라 단어당 처리 비용이 상승하는 문제
· 메모리 데이터 전송량의 제약으로 인해 배터리 기반 디바이스에서 실행할 수 있는 모델 크기가 제한되는 문제
· 자동차와 의료기기 및 항공전자 시스템의 인증 요건을 충족할 수 있도록 실행 시 분기 동작의 예측 가능성을 확보하는 과제
· 온디바이스 환경에서 개별 질의에 대한 응답 지연시간과 데이터 프라이버시 문제
하나의 디바이스와 배터리로 센싱 및 생성형 AI 구현
브레인칩의 최고경영자(CEO) 숀 헤히어(Sean Hehir)는 “고객들이 원하는 것은 단순한 신호 분류기나 언어모델 중 하나가 아니다. 하나의 제품에서 동일한 배터리로 두 기능을 모두 구현하기를 원한다. Akida와 Sequora의 결합은 바로 이러한 요구를 충족한다”고 말했다.
Sequora는 데이터를 디바이스 외부로 전송하지 않고 생성형 및 순차적 AI 작업을 실행하기 때문에 데이터와 AI 모델에 대한 자체 통제권을 유지하면서 크기와 무게, 전력 소모를 최소화하려는 시장의 요구에 대응한다.
공급 및 이용 안내
Sequora는 현재 라이선스 방식으로 이용할 수 있는 반도체 설계자산(IP)으로 제공된다. 고객은 Sequora 설계를 자체 시스템온칩(SoC)에 통합하고 원하는 반도체 위탁생산업체(파운드리)와 공정 노드를 선택해 제품을 제조할 수 있다. Sequora는 다양한 반도체 제조 공정에 적용할 수 있으며, 완전한 논리합성이 가능한 레지스터 전송 수준(RTL) 코드 형태로 제공된다. Sequora 패키지에는 검증용 IP와 테스트벤치, 논리합성 스크립트 및 타이밍 제약 조건이 포함된다. 또한 정적 그래프 컴파일러와 C++ 런타임 라이브러리, 모델 주(model zoo)를 갖춘 소프트웨어 개발 키트(SDK)도 함께 제공된다.
브레인칩의 다양한 소식은 X와 LinkedIn에서 확인할 수 있다.
