Apple 경영진은 회사의 새로운 AFM(Apple Foundation Models)의 아키텍처를 자세히 설명하고 Google의 기술이 AFM 개발에 어떻게 반영되었는지 정확하게 설명했습니다.
Apple의 소프트웨어 엔지니어링 SVP인 Craig Federighi는 월요일 AI VP Amar Subramanya, Siri 수석 Mike Rockwell, 소프트웨어 VP Sebastien Marineau-Mes와 함께 언론과 함께 기조연설 후 기술 토크(9to5Mac을 통해)를 개최하여 3세대 AFM 제품군이 어떻게 구축되었는지, 그리고 이것이 Apple Intelligence를 어떻게 지원하는지 살펴보았습니다.
Federighi는 "우리가 사용하는 Google 어시스턴트의 양은 전혀 없습니다"라고 말하면서 Apple은 Google 고객에게 배포된 Gemini 모델, Google의 클라이언트 측 코드, Google 검색 인프라를 지식 백본으로 사용하지 않는다고 설명했습니다.
물론 우리 앱에는 Gemini 앱이 없습니다. 실제로 해당 클라이언트 코드는 iOS에서 실행되는 방식의 일부가 아닙니다. 이러한 모델의 경우 Google이 고객에게 배포하는 모델을 사용하지 않으며, 고객에게 모델을 배포하는 데 사용되는 인프라 및 수단도 사용하지 않습니다. 그리고 지식 기반에 관해서는 물론 Google 검색이나 이와 유사한 것을 시스템 기반으로 사용하지 않습니다.
물론 우리 앱에는 Gemini 앱이 없습니다. 실제로 해당 클라이언트 코드는 iOS에서 실행되는 방식의 일부가 아닙니다. 이러한 모델의 경우 Google이 고객에게 배포하는 모델을 사용하지 않으며, 고객에게 모델을 배포하는 데 사용되는 인프라 및 수단도 사용하지 않습니다. 그리고 지식 기반에 관해서는 물론 Google 검색이나 이와 유사한 것을 시스템 기반으로 사용하지 않습니다.
Subramanya는 2개의 온디바이스 모델과 3개의 서버측 모델로 구성된 새로운 AFM 제품군을 소개했습니다. 온디바이스 계층은 차세대 밀도 아키텍처 모델인 AFM Core와 스파스 아키텍처를 사용하고 기본적으로 다중 모드인 AFM Core Advanced로 구성됩니다.
Subramanya는 AFM Core Advanced가 "이전에 실행했던 모든 온디바이스 모델과 달리" 클라우드 요청 없이 초대 및 표현적인 음성을 포함한 새로운 기능을 지원한다고 말했습니다. 서버 측에서 AFM Cloud는 지연 시간에 최적화된 프라이빗 클라우드 컴퓨팅 요청을 처리하고, AFM Cloud Image는 공간 재구성을 포함한 이미지 생성 및 편집 기능을 지원합니다.
Google 협업에 대한 주요 세부정보는 이 네 가지 모델이 어떻게 훈련되었는지에 대한 Subramanya의 설명에서 나왔습니다. "이 모든 것은 Apple Silicon을 위해 맞춤 제작되었으며, 강화 학습과 함께 독점 데이터를 사용하여 훈련되고 Gemini 프론티어 모델의 출력을 사용하여 정제되었습니다."라고 그는 말하면서 Google의 기여가 Gemini를 도매로 채택한 것이 아니라 증류 기반이었다는 점을 분명히 했습니다.
다섯 번째이자 가장 유능한 모델인 AFM Cloud Pro는 에이전트 도구 사용 및 복잡한 추론 작업을 위해 설계되었으며 Subramanya는 품질이 "Gemini 프론티어 모델과 유사"하다고 말했습니다. 이 모델은 Apple의 표준 프라이빗 클라우드 컴퓨팅 설정에서 벗어났습니다.
이를 실행하기 위해 Apple은 Google 및 Nvidia와 협력하여 프라이빗 클라우드 인프라를 Google 클라우드에서 호스팅되는 Nvidia GPU로 확장했습니다. Marineau-Mes는 Apple이 Nvidia의 최신 칩을 사용하기를 원했지만 Apple 서버의 콘텐츠를 읽을 수 없도록 구성해야 한다고 말했습니다. "모호한 기밀 컴퓨팅"이라는 최근 Nvidia 기술이 솔루션을 제공했습니다.
우리는 Nvidia의 최신 기술을 활용하고 싶었기 때문에 프라이빗 클라우드 컴퓨팅을 타사 클라우드로 확장하기 시작했습니다.
우리는 Nvidia의 최신 기술을 활용하고 싶었기 때문에 프라이빗 클라우드 컴퓨팅을 타사 클라우드로 확장하기 시작했습니다.
Federighi는 더 넓은 시스템 아키텍처가 "전체 시스템의 개인 정보 보호 아키텍처의 핵심"이라고 부르는 소프트웨어인 System Orchestrator를 중심으로 구성되어 있다고 설명했습니다. 오케스트레이터는 요청의 복잡성과 필요한 개인 컨텍스트를 기반으로 특정 쿼리를 장치 내 또는 클라우드의 적절한 모델로 라우팅합니다.
인앱 작업을 위한 앱 도구 상자, 개인 콘텐츠를 위한 Spotlight Semantic Index, 실시간 인식을 위한 화면 컨텍스트를 활용합니다. 현재 사건과 관련된 질문에 대한 응답은 Apple이 수년 동안 구축해 온 Apple 자체의 세계 지식 서비스(World Knowledge Service)를 통해 찾을 수 있습니다.
Apple은 또한 Google 클라우드의 확장된 Nvidia GPU 용량을 포함한 모든 프라이빗 클라우드 컴퓨팅 인프라를 제3자 연구원이 독립적으로 검증하여 사용자 데이터가 절대 저장되거나 액세스되지 않는다는 것을 확인할 수 있다고 주장합니다.
