Iz Applea objasnili kako su "ugurali" AI modele na iPhone

Dan nakon velikih najava na otvorenju developerske konferencije WWDC, Apple je nastavio s programom posvećenim developerima, pa je u prezentaciji nazvanoj "State of the Union" (Stanje nacije) pojašnjeno više detalja o načinu implementacije njihove nadolazeće umjetne inteligencije, Apple Intelligence i tehničkim detaljima.

Dovoljno malen, dovoljno velik

Ponovljeno je da je tu riječ o "osobnoj" inteligenciji, duboko integriranoj u sve dijelove OS-a te uz zaštitu privatnosti na svim razinama. Kako bi se to ostvarilo, a i kako bi se AI modeli mogli "vrtjeti" na samim uređajima (što zbog privatnosti, što zbog manje latencije), Apple je morao prvo razviti vlastiti jezični model.

Nazivaju ga Foundation Model, a radi se o modelu s 3 milijarde parametara – što je proglašeno optimalnom veličinom, ne prevelikom za izvođenje na mobitelu, a i ne premalenom zbog korisnosti samog sustava, javlja Bug.

Taj je model fino podešavan u detalje i uz pomoć "adaptera" prilagođen za svaku od potrebnih zadaća, koje mu je Apple namijenio. Tako je zapravo dobiven skup manjih modela, specijaliziranih za različite namjene. Potom je model dodatno komprimiran i optimiziran, da bi bio dovoljno brz i responzivan, ali uz zadržavanje svih ranije treniranih mogućnosti.

Isti pristup iskorišten je i za difuzijski model, koji će na Appleovim OS-ovima služiti za akcije kao što su generiranje slika na zahtjev, personaliziranih avatara ili emotikona (genmoji) i slične zadatke vezane uz grafiku.

Sigurnost i privatnost

Sve ono što bude prezahtjevno za izvođenje na uređaju, slat će se na obradu u "privatni oblak", kako je najavljeno i na uvodnoj prezentaciji WWDC-a. Taj je oblak izrađen isključivo za obrađivanje podataka vezanih za AI akcije, zasnovan je na Appleovim čipovima i potpuno zaštićen. Korisničke podatke ne pohranjuje trajno, ne dozvoljava pristup na daljinu i omogućava samo autoriziranim uređajima pristup do AI modela.

Komunikacija između klijenta i poslužitelja zaštićena je enkripcijom, niti Apple je ne može "prisluškivati", a sigurnosni će istraživači moći neovisno provjeriti da je tomu zaista tako.

Sve to omogućit će da Apple Intelligence bude ono što je najavljeno – potpuno privatni i osobni AI pomoćnik, duboko uronjen u privatne podatke i kontekst, ali bez mogućnosti da se na privatnim podacima trenira javni model ili da oni "procure" izvan zaštićenih i kriptiranih enklava na uređaju ili u oblaku.