L'antenato di ChatGPT GPT-2 inserito in un foglio di calcolo Excel da 1,25 GB - LLM funziona all'interno di un foglio di calcolo che puoi scaricare da GitHub
Il rilascio mette in luce l'architettura del Transformer dietro la maggior parte degli LLM
.webp)
Un software developer trasforma GPT-2 in un foglio di calcolo Excel
Il developer di software e auto-dichiarato dipendente dai fogli di calcolo Ishan Anand ha inserito GPT-2 in Microsoft Excel. Ancora più sorprendentemente, funziona - fornendo un'idea di come funzionano i grandi modelli di linguaggio (LLM) e di come l'architettura del Transformer sottostante effettua la sua intelligente previsione del token successivo. 'Se riesci a capire un foglio di calcolo, allora puoi capire l'AI,' vanta Anand. Il foglio di calcolo da 1,25 GB è stato reso disponibile su GitHub per chiunque voglia scaricarlo e giocarci.
Un'implementazione del GPT-2 in un foglio di calcolo
Naturalmente, questa implementazione del GPT-2 in foglio di calcolo è in qualche modo indietro rispetto agli LLM disponibili nel 2024, ma il GPT-2 era all'avanguardia e ha fatto molto parlare di sé nel 2019. È importante ricordare che il GPT-2 non è qualcosa con cui chattare, poiché proviene dall'era precedente alla 'chat'. ChatGPT è nato dal lavoro svolto per interagire conversazionalmente con il GPT-3 nel 2022. Inoltre, Anand utilizza qui il modello GPT-2 Small, e il file binario Microsoft Excel XLSB ha 124 milioni di parametri, mentre la versione completa del GPT-2 utilizzava 1,5 miliardi di parametri (mentre il GPT-3 ha spostato il limite, con fino a 175 miliardi di parametri).
Un'applicazione educativa e divertente
Il lavoro di Anand con il GPT-2 Small, nonostante possa non essere classificato come tale nel 2024, sta comunque spingendo le capacità dell'applicazione Excel. Il developer avverte di non provare a utilizzare questo file Excel su Mac (crash frequenti e blocchi) o di cercare di caricarlo su una delle app di fogli di calcolo cloud - poiché al momento non funzionerà . È inoltre consigliata l'ultima versione di Excel. Ricorda, questo foglio di calcolo è principalmente un esercizio educativo e divertente per Anand. Infine, uno dei vantaggi nell'utilizzare Excel sul tuo PC è che questo LLM funziona al 100% in locale, senza chiamate API al cloud.
