AI

Perché GPT-3 ha creato una piccola rivoluzione democratica nella tecnologia

Anche se il modello di apprendimento automatico GPT-3 non è rivoluzionario da un punto di vista algoritmico, inaugurerà comunque una nuova era di interazioni uomo-macchina.

GPT-3, un modello di apprendimento automatico di OpenAI, ha preso d’assalto il mondo nelle ultime due settimane. La generazione del linguaggio naturale, una branca dell’informatica focalizzata sulla creazione di testi da un gruppo di dati, è entrata in un periodo d’oro con il rilascio di GPT-2 l’anno scorso. Il rilascio di GPT-3 il mese scorso ha solo confermato questo. In questo articolo, voglio dare un’occhiata al perché GPT-3 è un affare così grande per la comunità di apprendimento automatico, per gli imprenditori e per chiunque lavori con la tecnologia.

Cos’è GPT-3?

GPT-3 è un modello di apprendimento profondo Transformer da 175 miliardi di parametri. Questo potrebbe sembrare complicato, ma si riduce a un algoritmo che è stato insegnato a prevedere la prossima parola in base alla frase inserita. Dopo aver fornito una frase e l’algoritmo riempie i vuoti. Per esempio, si potrebbe inserire “Come utilizzare con successo il content marketing?” e si otterrebbe un testo sul tema del content marketing.

GPT sta per generative pre-training. La parte generativa di questo termine dovrebbe essere chiara. Volete che il modello generi un testo per voi sulla base di alcuni input. Il pre-addestramento si riferisce al fatto che il modello è stato addestrato su un enorme corpus di testo e la sua conoscenza del linguaggio proviene dagli esempi che ha visto prima. Tuttavia, non copia frammenti di testo alla lettera. Il processo implica casualità per il fatto che il modello cerca di predire la parola successiva in base a ciò che è venuto prima, e questa predizione ha una componente statistica. Tutto questo significa anche che GPT-3 non “capisce” veramente la lingua che sta elaborando; non può fare inferenze logiche come un umano, per esempio.

GPT-3 non presenta un vero passo avanti dal punto di vista algoritmico. È più o meno lo stesso di GPT-2, anche se è stato addestrato con sostanzialmente più dati e più potenza di calcolo. OpenAI ha usato un set di dati C4 (crawl comune) di Google, che Google ha usato per addestrare il suo modello T5.

Allora, perché GPT-3 è così sorprendente? La sua natura trasformativa si riduce alle sue applicazioni, che è dove possiamo davvero misurare la sua robustezza.

Applicazioni di GPT-3

Immaginate di voler costruire un modello per la traduzione dall’inglese al francese. Prendereste un modello linguistico pre-addestrato (diciamo BERT) e poi gli dareste una parola o una frase inglese come data insieme a una traduzione abbinata. GPT-3 può eseguire questo compito e molti altri senza alcun apprendimento aggiuntivo, mentre avreste bisogno di mettere a punto modelli di apprendimento automatico precedenti come BERT su ogni compito. È sufficiente fornire un prompt (una frase o una richiesta):

“Tradurre dall’inglese al francese: formaggio =>” per ottenere “fromage”

Fornire un comando senza ulteriore addestramento è ciò che chiamiamo apprendimento a zero colpi. Non avete dato alcun esempio precedente di ciò che volevate che l’algoritmo ottenesse, eppure ha capito che volevate fare una traduzione. Si potrebbe, per esempio, dare “Summarize” come input e fornire un testo di cui si vuole una sinossi GPT-3 capirà che volete un riassunto del testo senza ulteriori messe a punto o ulteriori dati.

In generale, GPT-3 è un apprendista a pochi colpi, il che significa che è sufficiente descrivergli un paio di esempi di ciò che si vuole, e poi può capire il resto. Le applicazioni più sorprendenti di questo includono varie interfacce uomo-macchina, dove si scrive in inglese semplice e si ottiene un codice in HTML, SQL, Python, o la progettazione di app in Figma.

Per esempio, questa app alimentata da GPT-3 ti permette di scrivere “Quanti utenti si sono iscritti dall’inizio del 2020?”. L’app vi darebbe poi un codice SQL: “SELECT count(id) FROM users WHERE created_at > ‘2020-01-01’” che fa proprio questo. In altre parole, GPT-3 permette di fare query sui fogli di calcolo usando il linguaggio naturale - l’inglese in questo caso.

Un’altra grande applicazione alimentata da GPT-3 consente di descrivere un design che si desidera in un inglese semplice (“Fai un pulsante giallo di registrazione”) e ottenere file Figma con il pulsante pronto per essere implementato nella vostra app o sito web.

Ci sono molti altri esempi in cui GPT-3 traduce dall’inglese a un linguaggio di codifica, rendendo l’interazione tra uomo e macchina molto più facile e veloce. Ed è per questo che GPT-3 è veramente innovativo. Ci indica nuove e diverse interfacce uomo-macchina.

GPT-3 e la democratizzazione della tecnologia

Quindi cosa offre GPT-3 agli imprenditori, agli sviluppatori e a tutti noi? La semplicità e la crescente democratizzazione della tecnologia.

GPT-3 e modelli generativi simili non sostituiranno presto gli sviluppatori o i designer, ma permetteranno un più ampio accesso alla tecnologia, sia che si tratti di progettare nuove applicazioni, siti web, o di fare ricerca e scrivere su vari argomenti. Le persone non tecniche non dovranno fare affidamento sugli sviluppatori per iniziare a giocare con le loro idee o addirittura costruire un MVP. Possono semplicemente descriverlo in inglese come farebbero con una software house per ottenere ciò che vogliono. Questo potrebbe abbattere i costi dell’imprenditoria, dato che non si avrebbe più bisogno di sviluppatori per iniziare.

Cosa significa questo per gli sviluppatori, però? Diventeranno obsoleti? Niente affatto. Invece, si sposteranno più in alto nello stack. Il loro compito principale è quello di comunicare con la macchina per farle fare le cose che lo sviluppatore vuole. Con GPT-3 e modelli generativi simili, questo processo avverrà molto più velocemente. Nuovi linguaggi di programmazione emergono continuamente per una ragione: per rendere la programmazione di certi compiti più facile e più agevole. I modelli generativi di linguaggio possono aiutare a costruire una nuova generazione di linguaggi di programmazione che permetteranno agli sviluppatori di fare cose incredibili molto più velocemente.

Tutto sommato, l’impatto di GPT-3 nei prossimi cinque anni sarà probabilmente una tecnologia sempre più democratizzata. Questi strumenti diventeranno più economici e più accessibili a chiunque, proprio come l’accesso diffuso a Internet ha fatto 20 anni fa.

Indipendentemente dalla forma esatta che prenderà, con GPT-3, il futuro della tecnologia sembra decisamente eccitante.

Ciao, sono Michele!

Sono molto felice di saperti qui.
Ogni giorno ti raccontiamo qualcosa di nuovo sull'AI e sulle nuove tecnologie. Seguici sui social o iscriviti alla newsletter!

Iscriviti alla newsletter!

Iscrivendoti accetti la nostra Privacy Policy

Ti va di rimanere aggiornatə?

Niente spam, niente pubblicità. Ogni tanto una mail. Tutto qui.
(Ah, ovviamente i tuoi dati non verranno mai ceduti)

Iscrivendoti accetti la nostra Privacy Policy