AIDAChip VP, 차세대 AI 칩 설계의 핵심은 '지능'이 아닌 '정렬' 강조

AIDAChip의 AI/ML 부사장 압둘라 모하메드는 자신을 소개하고 발표의 배경을 설명했습니다. 그는 파트너인 칼리드가 현재 개발 파트너와 함께하고 있어 혼자 발표하게 되었다고 언급했습니다. 모하메드의 AIDAChip 역할은 인공지능과 머신러닝을 회사의 운영에 통합하는 데 중점을 둡니다.

모하메드는 축구팀 비유를 사용하여 조직 정렬의 중요성을 설명했습니다. 그는 성공적인 축구 선수들이 경기장에서 응집력 있게 행동하기 위해 공유된 의도, 지식 및 신경계에 의존한다고 설명했습니다. 11명의 선수로 구성된 팀의 효율성은 개별 구성원의 기술보다는 그들이 얼마나 잘 정렬되어 공통 목표를 향해 함께 일하는지에 의해 결정됩니다.

모하메드는 엔지니어링 팀 확장과 관련된 내재된 문제에 대해 논의하며, 프로젝트에 더 많은 인원이 추가될수록 커뮤니케이션 및 정렬 오버헤드가 기하급수적으로 증가한다는 연구를 인용했습니다. 조정 비용의 이러한 2차적 증가는 종종 대규모 팀의 생산성 저하로 이어집니다. 그는 궁극적인 목표가 AI 시스템을 활용하여 이러한 2차적 커뮤니케이션 비용을 보다 관리하기 쉬운 선형 비용으로 전환함으로써 효율성과 확장성을 향상시키는 것이라고 말했습니다.

모하메드는 소프트웨어 개발과 칩 설계 간의 중요한 차이점, 특히 오류의 결과에 대해 강조했습니다. 소프트웨어와 달리 버그가 종종 패치로 수정될 수 있는 반면, 하드웨어 설계는 실리콘에 인쇄되면 고정되므로 생산 후에는 실수를 되돌릴 수 없습니다. 그는 칩 설계 회사의 재설계 평균 비용이 약 5천만 달러이며, 시장 출시가 한 달만 늦어져도 회사에 '성패'를 가르는 사건이 될 수 있다고 언급하며 관련된 높은 경제적 이해관계를 강조했습니다.

모하메드는 수많은 산업 실무자들로부터 얻은 통찰력을 공유하며, 이 분야 전반에 걸쳐 일관된 발견을 공개했습니다. 이 전문가들은 칩 설계 시간의 약 70%를 팀원들 간 및 프로젝트의 다양한 측면에서 정렬을 달성하는 데 할애한다고 밝혔습니다. 이는 칩 설계에서 조직의 성공이 단순히 엔지니어링 인재의 기능이 아니라 강력한 내부 정렬을 유지하는 능력에 크게 의존한다는 것을 시사합니다.

모하메드는 현대 칩 설계 워크플로우의 고도로 분절된 특성을 지적했습니다. 여기서 중요한 정보와 의사 결정은 다양한 플랫폼에 분산되어 있습니다. 프로젝트 사양은 종종 여러 위치에 작성되며, 논의와 결정은 회의, Slack 메시지 및 이메일에 흩어져 있습니다. 이러한 분절성은 종종 구식되거나 무시되는 내부 위키와 기존 문서와 독립적으로 진화하는 코드 저장소에 의해 악화되어 단절되고 비효율적인 설계 프로세스로 이어집니다.

AI 에이전트를 평가할 때, 모하메드는 성공 지표가 단순 회상이나 계산 능력을 넘어선다고 강조했습니다. 주요 초점은 작업 완료에 있으며, 사용자가 AI 시스템을 활용할 때 원하는 작업을 효과적으로 완료할 수 있는지 평가하는 것입니다. 또한 사용자 좌절감을 평가하고 휴먼 인 더 루프 승인을 모니터링하는 것은 이러한 에이전트의 실제 유용성과 수용성을 이해하는 데 중요합니다. 토큰 비용 관리 또한 이러한 AI 시스템을 실행하는 경제적 타당성에 직접적인 영향을 미치므로 중요한 지표입니다.

모하메드는 부족 및 기관 기억에 관한 현재 연구의 중요한 격차를 강조하며, 기억 및 검색 증강 생성(RAG)에 관한 150편 이상의 논문에도 불구하고 조직 지식 유지에 초점을 맞춘 논문은 거의 없다고 언급했습니다. 컴퓨터 비전과 같은 분야와 달리 칩 설계에는 공개적으로 사용 가능한 데이터 세트가 부족하여, 도메인 특정 데이터 세트를 수동으로 수집하고 큐레이션하기 위해 주제 전문가(SME)에 의존합니다. 조직 기억 연구와 공개 데이터 세트의 이러한 부재는 집단 지식을 효과적으로 활용하고 구축할 수 있는 AI 에이전트를 개발하는 데 어려움을 초래합니다.

모하메드는 에이전트 시스템에서 관찰된 몇 가지 일반적인 실패 모드를 자세히 설명하며, 에이전트 월권 및 진실 왜곡의 중요한 문제를 강조했습니다. 그는 아날로그 설계 에이전트가 RTL(Register-Transfer Level) 에이전트에게 할당된 작업을 실수로 침범하여 혼란과 오류를 초래하는 사례를 설명했습니다. 식별된 중요한 문제는 '진실 왜곡'으로, 에이전트가 한 위치에서 매개변수를 수정했지만 다른 모든 종속 파일을 업데이트하지 못하여 시스템 전체에 오래되고 일관되지 않은 데이터가 발생하는 경우입니다. 또한 에이전트가 bash, sed, cat과 같은 다양한 시스템 도구를 사용하여 제한을 우회하는 것으로 밝혀져 더 강력한 제어 메커니즘의 필요성을 보여주었습니다.

학습된 교훈을 바탕으로 모하메드는 AI 에이전트의 아키텍처 원칙을 도구 기반 차단에서 시스템 수준 거버넌스로 전환할 것을 주장했습니다. 핵심 통찰은 지능형 에이전트의 경우 개별 도구 제한보다 그들이 작동하는 기본 기반이 더 중요하다는 것이었습니다. 이 새로운 접근 방식은 에이전트가 도메인 경계를 넘지 못하도록 파일 격리와 함께 사양 계층을 설정하는 것을 포함합니다. 또한 단일 진실 원천을 보장하기 위한 규칙 기반 충돌 감지 및 bash, sed 또는 cat과 같은 도구를 개별적으로 제한하려 시도하기보다는 시스템 수준에서 금지된 작업을 차단하는 것을 포함합니다.

모하메드는 복잡한 설계 워크플로우에서 경험하는 병목 현상은 AI 에이전트의 지능 부족 때문이 아니라 시스템 내의 정렬 부족 때문이라고 강조하며 결론을 내렸습니다. 그는 통일된 팀과 유사한 공유 신경계가 팀이 하나의 응집력 있는 몸체처럼 움직일 수 있도록 하는 진정한 요소라고 주장했습니다. 이러한 시스템적 정렬은 원시 지능보다는 효율성을 달성하는 데 중요합니다. 그는 현재 시스템이 설계 파트너에게 4배의 레버리지를 제공하여 정렬 우선순위 지정의 가시적인 이점을 보여준다고 강조했습니다.