Sam Altman, CEO di OpenAI, parla della carenza di chip e del futuro di ChatGPT

La carenza di chip informatici specializzati necessari per eseguire il suo software di intelligenza artificiale sta frenando l'attività di OpenAI e la società non ha intenzione di rilasciare un prodotto rivolto al consumatore oltre ChatGPT. Queste sono solo due delle informazioni Secondo quanto riferito da un post sul blog scritto da uno dei partecipanti, il cofondatore e amministratore delegato di OpenAI Sam Altman ha parlato con un gruppo di sviluppatori di software e amministratori delegati di startup in un incontro privato a Londra due settimane fa. Il resoconto dell'incontro a porte chiuse, a cui avrebbero partecipato circa 20 persone, è stato successivamente rimosso su richiesta di OpenAI, secondo una nota allegata alla pagina in cui era inizialmente apparso,ma ciò non ha impedito alla comunità dell'intelligenza artificiale di riflettere attentamente sui (presunti) commenti dell'influente CEO.

Un sito di archiviazione Internet aveva già salvato una copia del post originale del blog, che da allora è circolata sui social media e in diversi forum di discussione orientati ai programmatori. Altman ha affermato che l'incapacità di OpenAI di accedere a un numero sufficiente di unità di elaborazione grafica (GPU), i chip di computer specializzati utilizzati per eseguire applicazioni IA, sta ritardando i piani a breve termine di OpenAI e causando problemi agli sviluppatori che utilizzano i servizi di OpenAI, secondo il post sul blog scritto da Raza Habib, un esperto di intelligenza artificiale che è anche cofondatore e CEO di Humanloop. La startup londinese di Habib ha aperto la strada a metodi per rendere più efficiente l'addestramento di modelli linguistici di grandi dimensioni, come quelli che sono alla base del ChatGPT di OpenAI. La carenza di GPU ha reso più difficile per OpenAI consentire agli utenti di inviare più dati attraverso i modelli linguistici di grandi dimensioni che sostenere il suo software, come ChatGPT, e ha rallentato il lancio pianificato dell'azienda di funzionalità e servizi aggiuntivi. Inoltre, secondo il post sul blog, ha reso i servizi esistenti di OpenAI più lenti e meno affidabili, un fatto che frustra i clienti e li rende riluttanti a creare applicazioni aziendali sulla tecnologia di OpenAI. La crisi dell’offerta di chip ha messo a rischio il vantaggio di OpenAI come pioniere nel boom dell’intelligenza artificiale generativa, poiché Google, così come i rivali meno conosciuti, è stato in grado di lanciare servizi concorrenti e i concorrenti open source hanno guadagnato un punto d’appoggio maggiore.

Altman ha illustrato diverse cose che OpenAI non può ancora fare perché manca l'hardware (ovvero i chip). Questi includono la fornitura di una "finestra di contesto" più lunga alla maggior parte dei clienti dei suoi modelli linguistici di grandi dimensioni GPT, ha scritto Habib nel suo post sul blog. La finestra di contesto determina la quantità di dati che possono essere utilizzati in un singolo prompt inserito nel modello e la durata della risposta del modello. La maggior parte degli utenti di GPT-4 dispone di una finestra di contesto lunga 8.000 token (un token è un segmento di dati su cui il modello AI sottostante effettua una previsione, equivalente a circa una parola e mezza in inglese). OpenAI ha annunciato una finestra di 32.000 token per utenti selezionati del modello a marzo, ma a pochi utenti è stato concesso l'accesso a quella funzionalità, un fatto che Altman ha attribuito alla mancanza di GPU, ha scritto Habib.

La maggior parte delle applicazioni IA del mondo sono addestrate ed eseguite su GPU, una sorta di chip per computer progettato per elaborare i dati utilizzando l'elaborazione parallela ad alta velocità. La maggior parte di questi chip sono prodotti da una sola azienda, Nvidia, e possono costare da migliaia a centinaia di migliaia di dollari. Gli osservatori del mercato sanno già che le azioni di Nvidia sono aumentate vertiginosamente a causa della sua associazione con il boom dell'intelligenza artificiale generativa e la sua valutazione di mercato ha recentemente superato la soglia di mille miliardi di dollari.

Secondo quanto riferito, il cofondatore e CEO di OpenAI ha assicurato agli sviluppatori che OpenAI non ha intenzione di lanciare alcun prodotto rivolto ai consumatori oltre ChatGPT, secondo il post di Habib. Habib aveva detto che molti sviluppatori presenti all'incontro avevano detto ad Altman di essere preoccupati sull'utilizzo dei modelli di intelligenza artificiale di OpenAI per sviluppare se OpenAI stessa potesse successivamente lanciare prodotti concorrenti. Secondo quanto riferito, Altman ha affermato che ChatGPT sarebbe stato il suo unico prodotto rivolto al consumatore e che la sua visione per il futuro era quella di un "assistente super intelligente per il lavoro", ma che molti casi specifici del settore che coinvolgono i grandi modelli linguistici GPT sottostanti OpenAI "non sarebbero toccati. "