In una lettera trapelata, un senior software engineer di Google ha evidenziato il notevole progresso compiuto dalla comunità Open Source nel processing del linguaggio naturale (NLP). L’ingegnere sostiene che i modelli Open Source stanno superando il progresso delle grandi aziende tecnologiche come Google e OpenAI, in particolare in aree come l’AI personale scalabile e la release responsabile. La lettera è stata successivamente pubblicata da SemiAnalysis e ha scatenato discussioni sul futuro del NLP e sul ruolo della collaborazione tra le aziende e la comunità Open Source.
L’autore della lettera suggerisce che la comunità Open Source ha risolto molti dei principali problemi del NLP, e lo sta facendo a un ritmo più veloce rispetto alle tradizionali organizzazioni di ricerca sull’AI. La lettera sottolinea la svolta nella “low rank adaptation” (LoRA), che riduce il tempo e il costo della messa a punto del modello. L’ingegnere sostiene che Google e OpenAI dovrebbero prestare maggior attenzione al lavoro svolto dalla comunità Open Source e dare priorità all’abilitazione delle integrazioni di terze parti. Questi progressi stanno mettendo sotto pressione le tradizionali organizzazioni di ricerca sull’AI come Google e OpenAI per adattarsi alla nuova realtà.
L’articolo evidenzia diversi esempi di risultati ottenuti dalla comunità Open Source, come l’esecuzione di modelli fondamentali su un telefono Pixel 6 e la creazione di modelli responsabili senza restrizioni. L’autore suggerisce che, mentre Google e OpenAI possono ancora avere un piccolo vantaggio in termini di qualità dei modelli linguistici (LLM), il divario si sta rapidamente riducendo e i modelli Open Source stanno diventando sempre più capaci, personalizzabili e privati.
In risposta a questa nuova realtà, l’ingegnere sostiene che Google e OpenAI devono adattarsi collaborando con ricercatori esterni e dando priorità alle integrazioni di terze parti. La lettera sottolinea che i migliori modelli sono quelli che possono essere iterati rapidamente, e le aziende dovrebbero concentrarsi sulla creazione di piccole varianti che possono essere facilmente aggiornate anziché su modelli giganti che richiedono risorse significative per l’addestramento. L’autore suggerisce inoltre che le aziende devono ripensare al valore che offrono ai clienti poiché le persone potrebbero non essere disposte a pagare per modelli limitati quando sono disponibili alternative gratuite e illimitate.
La lettera ha scatenato discussioni sull’importanza della collaborazione tra grandi aziende tecnologiche e la comunità Open Source. Alcuni sostengono che i modelli Open Source offrono maggiore trasparenza, privacy e personalizzazione, mentre altri evidenziano che le grandi aziende come Google e OpenAI hanno le risorse e l’esperienza per sviluppare modelli più avanz Tuttavia, la chiamata all’azione dell’ingegnere per la collaborazione sottolinea i potenziali vantaggi della combinazione dei punti di forza di entrambi i gruppi per guidare ulteriori progressi nel NLP.
In conclusione, la lettera dell’ingegnere di Google esorta le aziende ad adattarsi alla nuova realtà dei progressi nel NLP e a collaborare con la comunità Open Source per guidare il progresso. L’ingegnere suggerisce che le aziende dovrebbero dare priorità all’abilitazione delle integrazioni di terze parti e concentrarsi sulla creazione di modelli piccoli e facilmente aggiornabili. Con la riduzione del divario tra le organizzazioni di ricerca sull’AI tradizionali e Open Source, è cruciale che le aziende lavorino insieme per sfruttare i punti di forza reciproci e creare modelli NLP più avanzati.