Termini AI
Glossario essenziale dell'intelligenza artificiale — definizioni chiare, esempi pratici e fonti verificate
Un agente AI è un sistema in cui un modello linguistico non si limita a rispondere, ma lavora per obiettivi: ragiona sul compito, sceglie uno strumento (ricerca web, calcolo, database, codice), osserva il risultato e ripete il ciclo finché non ha una risposta o un'azione completa. L'autonomia è sempre limitata da regole, da un numero massimo di passi e, nei casi delicati, dalla conferma dell'utente.
📖 Fonte: Yao et al. — ReAct: Synergizing Reasoning and Acting
Un algoritmo AI è un insieme di regole e istruzioni matematiche che permette a un sistema informatico di apprendere dai dati, riconoscere pattern e prendere decisioni autonome — simulando alcune capacità cognitive umane. A differenza degli algoritmi tradizionali, che seguono regole fisse, quelli AI possono migliorare le proprie prestazioni con l'esperienza.
Un'API è un insieme di protocolli e strumenti che consente a diversi software di comunicare tra loro. Nel contesto AI, le API permettono agli sviluppatori di integrare funzionalità di intelligenza artificiale — come il riconoscimento del linguaggio o la generazione di testo — nelle proprie applicazioni senza dover costruire i modelli da zero.
📖 Fonte: IBM — What is an API?
L'attention è il meccanismo con cui un modello decide quali parti del testo guardare per interpretare ogni parola. Per ogni token calcola un peso di rilevanza rispetto a tutti gli altri e li combina di conseguenza: così «lo» o «essa» vengono collegati al sostantivo giusto anche se lontano. Il costo cresce rapidamente con la lunghezza del testo, per questo i contesti molto lunghi sono costosi.
AutoML è il processo di automazione delle fasi di sviluppo di un modello di machine learning: dalla selezione dell'algoritmo, alla pulizia dei dati, all'ottimizzazione degli iperparametri. Permette anche a chi non è esperto di data science di costruire modelli predittivi efficaci in tempi ridotti.
📖 Fonte: IBM — What is AutoML?
Il bias in AI è una distorsione sistematica nei risultati di un modello causata da dati di addestramento non rappresentativi o da scelte progettuali errate. Può portare a decisioni ingiuste o discriminatorie. Esistono varie forme di bias: di campionamento, di conferma, di misurazione. È uno dei problemi etici centrali dell'AI moderna.
📖 Fonte: IBM — What is AI Bias?
Con Big Data si intendono insiemi di dati così enormi, veloci e variegati da non poter essere gestiti con strumenti tradizionali. Si descrivono spesso con le "5V": Volume, Velocità, Varietà, Veridicità e Valore. I Big Data sono il carburante dell'AI moderna: senza grandi quantità di dati di addestramento, i modelli non possono imparare.
📖 Fonte: IBM — What is Big Data?
La chain of thought è una tecnica di prompting (o un comportamento dei modelli di ragionamento) in cui il modello scrive i passaggi intermedi prima della risposta finale. Su problemi di logica, matematica e pianificazione aumenta di solito l'accuratezza, ma consuma più token e più tempo. I passaggi mostrati non sono necessariamente la spiegazione fedele di come il modello è arrivato alla risposta.
Un chatbot è un programma software progettato per simulare una conversazione con gli esseri umani, in forma testuale o vocale. I chatbot moderni basati su AI — come ChatGPT o Claude — utilizzano modelli linguistici avanzati (LLM) per comprendere il contesto, rispondere in modo naturale e svolgere compiti complessi.
📖 Fonte: IBM — What is a Chatbot?
Il chunking consiste nel dividere un documento lungo in blocchi (chunk) di dimensione gestibile, in genere con una piccola sovrapposizione tra l'uno e l'altro, per poterli indicizzare e recuperare nei sistemi RAG. Blocchi troppo corti perdono il contesto, troppo lunghi diluiscono l'informazione e consumano finestra di contesto: la scelta migliore dipende dal tipo di documento (per titoli, paragrafi, pagine).
Computer use è la capacità di un modello di operare un computer come farebbe una persona: osserva lo schermo tramite screenshot, muove il cursore, clicca, scrive e scorre, per usare programmi o siti che non hanno un'API. È potente ma più lento e meno affidabile delle chiamate dirette agli strumenti, e richiede cautele (ambienti isolati, conferme per azioni irreversibili) perché il modello può essere ingannato da contenuti presenti sullo schermo.
La Computer Vision è il campo dell'AI che permette ai computer di interpretare e comprendere il contenuto visivo del mondo reale — immagini, video, profondità spaziale. Utilizza reti neurali convoluzionali (CNN) per riconoscere oggetti, volti, testi e scene con precisione sempre maggiore.
📖 Fonte: IBM — What is Computer Vision?
La context window è la quantità massima di testo (misurata in token) che il modello può considerare in una singola richiesta, comprendendo istruzioni, cronologia, documenti allegati e risposta. Ciò che sta fuori dalla finestra, per il modello, non esiste. Finestre molto grandi non garantiscono che tutto venga usato con la stessa attenzione, e costano di più in tempo e denaro.
Il cost per task misura quanto costa portare a termine un compito completo (non una singola chiamata): somma token in ingresso e in uscita di tutti i passaggi, ricerche, ripetizioni e correzioni. È la metrica giusta per confrontare modelli e architetture, perché un modello più caro ma che risolve al primo tentativo può costare meno di uno economico che richiede molti passaggi.
Il Data Mining è il processo di scoperta di pattern, correlazioni e anomalie significative all'interno di grandi dataset. Combina tecniche di statistica, machine learning e database per estrarre conoscenza utile da dati grezzi. È il primo passo fondamentale prima di addestrare qualsiasi modello AI.
📖 Fonte: IBM — What is Data Mining?
Un dataset è una raccolta strutturata di dati utilizzata per addestrare, validare o testare un modello AI. La qualità, la quantità e la rappresentatività del dataset sono fattori determinanti per le prestazioni del modello. Si distinguono dataset di training (addestramento), validation (validazione) e test (valutazione finale).
📖 Fonte: IBM — Machine Learning & Datasets
Il Deep Learning è un sottoinsieme del Machine Learning che utilizza reti neurali artificiali con molti strati (layer) per imparare rappresentazioni gerarchiche dei dati. È alla base dei più grandi progressi AI degli ultimi anni: riconoscimento vocale, traduzione automatica, generazione di immagini e testo.
📖 Fonte: IBM — What is Deep Learning?
La distillazione è una tecnica con cui un modello piccolo (studente) viene addestrato a imitare le risposte di un modello grande (insegnante). Si ottiene un modello più veloce ed economico che mantiene gran parte della qualità su compiti specifici. È importante verificare le condizioni d'uso del modello insegnante, perché alcuni provider vietano di usarne gli output per addestrare modelli concorrenti.
📖 Fonte: Hinton et al. — Distilling the Knowledge in a Neural Network
La DPO è un metodo per allineare un modello alle preferenze umane usando coppie di risposte (una preferita, una scartata) senza dover addestrare un modello di ricompensa separato né usare l'apprendimento per rinforzo. È più semplice e stabile dell'RLHF e per questo molto usata nell'affinamento dei modelli aperti.
Un embedding è una lista di numeri (un vettore) che rappresenta il significato di un testo, di un'immagine o di un altro contenuto: testi con significato simile hanno vettori vicini. Permette di cercare per significato e non solo per parole identiche, e sta alla base della ricerca semantica, dei sistemi RAG e dei raggruppamenti automatici.
📖 Fonte: Mikolov et al. — Word2Vec
Le evals sono test ripetibili che misurano la qualità di un sistema basato su LLM: un insieme di input con criteri per giudicare l'output (risposta esatta, presenza di termini, controllo di un altro modello, valutazione umana). Servono a capire se una modifica a prompt, modello o strumenti migliora o peggiora davvero, e a individuare regressioni prima che le veda l'utente.
Un retry è un nuovo tentativo dopo un errore temporaneo (timeout, sovraccarico), di solito con attesa crescente; un fallback è il passaggio a un'alternativa (un altro modello o provider) quando il primo non risponde o ha esaurito la quota. Insieme rendono il servizio resiliente: l'utente vede una risposta anche se un fornitore è giù. Vanno limitati nel numero e nel tempo, per evitare attese infinite e costi nascosti.
Il few-shot prompting consiste nel mettere nel prompt alcuni esempi completi di input e output desiderato prima della richiesta vera. Il modello riconosce il formato, il tono e il criterio e li applica al nuovo caso senza alcun riaddestramento (in-context learning). Senza esempi si parla di zero-shot, con uno solo di one-shot.
📖 Fonte: Brown et al. — Language Models are Few-Shot Learners
Il Fine-Tuning è il processo di adattamento di un modello pre-addestrato a un compito specifico, utilizzando un dataset più piccolo e mirato. Permette di partire da un modello generale già capace e specializzarlo — risparmiando enormi risorse computazionali rispetto all'addestramento da zero.
📖 Fonte: IBM — What is Fine-Tuning?
Con il function (o tool) calling si descrivono al modello gli strumenti disponibili, ciascuno con nome e parametri. Il modello non li esegue: restituisce una richiesta strutturata («chiama questa funzione con questi argomenti»); l'applicazione la esegue, rimanda il risultato al modello e questo prosegue. È il meccanismo che permette a un LLM di cercare sul web, consultare un database o creare un evento.
Una GAN è un'architettura di Deep Learning composta da due reti neurali che competono tra loro: un generatore (crea dati sintetici) e un discriminatore (cerca di distinguere i dati reali da quelli falsi). Questa competizione porta il generatore a produrre output sempre più realistici. Le GAN sono alla base della generazione di immagini deepfake e di molti sistemi generativi.
📖 Fonte: IBM — What are GANs?
Un golden dataset è un insieme curato e verificato da persone esperte di esempi con la risposta corretta (o i criteri per riconoscerla), usato come metro di confronto stabile per le valutazioni. Deve essere rappresentativo dei casi reali, includere i casi difficili e le domande trabocchetto, e restare separato da ciò che serve a migliorare il sistema, altrimenti il test diventa troppo facile.
Il grounding consiste nel far basare le risposte del modello su fonti verificabili fornite al momento (documenti, risultati di ricerca, database) invece che sulla sola memoria del modello. Riduce le allucinazioni e permette di citare le fonti; non le elimina del tutto, perché il modello può ancora interpretare male il testo fornito.
I guardrail sono controlli attorno al modello che limitano ciò che può ricevere, fare e dire: filtri sugli input, validazione e filtri sugli output, elenchi di azioni consentite, limiti di tempo e di spesa, avvisi per temi sensibili. Funzionano meglio a più livelli e fuori dal prompt, perché le sole istruzioni testuali possono essere aggirate.
L'Hallucination (allucinazione) è il fenomeno per cui un modello AI genera informazioni plausibili ma false o inventate, presentandole con sicurezza come se fossero reali. È uno dei limiti più critici degli LLM attuali: il modello non "sa" di non sapere qualcosa, e riempie le lacune con contenuti generati statisticamente.
📖 Fonte: IBM — What are AI Hallucinations?
Human-in-the-loop significa prevedere l'intervento di una persona nei punti critici del processo: approvare un'azione irreversibile, correggere un dubbio, rivedere un risultato prima che esca. Equilibra autonomia e controllo: l'AI fa la parte lunga e ripetitiva, la persona decide dove l'errore costerebbe caro.
La ricerca ibrida combina la ricerca per parole chiave (come BM25, brava con sigle, nomi e numeri esatti) e la ricerca semantica con gli embedding (brava con sinonimi e parafrasi), fondendo le due classifiche. Nei sistemi RAG dà in genere risultati più robusti di ciascun metodo da solo.
L'Inference è la fase in cui un modello AI già addestrato viene utilizzato per fare previsioni o generare output su nuovi dati. È distinta dalla fase di training (addestramento). L'efficienza dell'inferenza — velocità, costo computazionale, latenza — è cruciale per le applicazioni AI in produzione.
📖 Fonte: IBM — AI Inference
Un jailbreak è un input costruito per far violare al modello le sue regole di sicurezza, ad esempio con giochi di ruolo, scenari ipotetici, codifiche o richieste spezzate in più passaggi. Differisce dalla prompt injection, che sfrutta testi esterni per dirottare un'applicazione. Le difese combinano addestramento del modello, filtri su input e output e monitoraggio.
📖 Fonte: Wei et al. — Jailbroken: How Does LLM Safety Training Fail?
La KV cache conserva in memoria i valori intermedi (chiavi e valori dell'attention) già calcolati per i token precedenti, così il modello, mentre genera, non deve ricalcolarli a ogni nuovo token. Rende la generazione molto più veloce, ma occupa memoria della GPU proporzionale alla lunghezza del contesto. Alcuni provider riusano la cache anche tra richieste con lo stesso prefisso, abbassando costi e tempi.
La latenza è il tempo che passa tra la richiesta dell'utente e la risposta. Nei sistemi LLM si misurano di solito due valori: il tempo al primo token (quando comincia a comparire il testo) e il tempo totale. Dipende da modello, lunghezza del contesto, rete, strumenti chiamati e coda del provider; lo streaming migliora la sensazione di velocità anche quando il tempo totale non cambia.
Un LLM è un modello di intelligenza artificiale addestrato su enormi quantità di testo per comprendere e generare linguaggio naturale. I parametri di un LLM — che possono essere miliardi o centinaia di miliardi — codificano la "conoscenza" del modello. ChatGPT, Claude, Gemini e Mistral sono tutti esempi di LLM.
LLM-as-judge è l'uso di un modello linguistico per valutare le risposte di un altro modello (o dello stesso), secondo criteri scritti: correttezza, completezza, tono, aderenza alla fonte. È veloce ed economico rispetto alla valutazione umana, ma ha bias noti (preferisce risposte lunghe, la prima proposta, il proprio stile), quindi va calibrato su un campione valutato da persone.
📖 Fonte: Zheng et al. — Judging LLM-as-a-Judge with MT-Bench
La LoRA è una tecnica di fine-tuning efficiente: invece di aggiornare tutti i miliardi di parametri del modello, si congelano e si addestrano soltanto piccole matrici aggiuntive (adapter). Servono molta meno memoria e tempo, e l'adapter è un file piccolo che si può attivare, cambiare o rimuovere senza toccare il modello di base.
📖 Fonte: Hu et al. — LoRA: Low-Rank Adaptation of Large Language Models
Il Machine Learning è una branca dell'AI che consente ai sistemi di imparare e migliorare automaticamente dall'esperienza, senza essere esplicitamente programmati per ogni compito. I modelli ML identificano pattern nei dati di addestramento e li usano per fare previsioni su dati nuovi. Si divide in Supervised, Unsupervised e Reinforcement Learning.
📖 Fonte: IBM — What is Machine Learning?
Il Model Context Protocol è uno standard aperto che definisce come un'applicazione AI si collega a strumenti e fonti di dati (file, database, calendari, servizi web) tramite «server MCP». Invece di scrivere un'integrazione diversa per ogni coppia modello-strumento, si implementa il protocollo una volta e ogni applicazione compatibile può usarlo.
Nei sistemi basati su LLM la memoria a breve termine è ciò che sta nella finestra di contesto durante la conversazione; la memoria a lungo termine è ciò che viene salvato fuori dal modello (note, profilo, preferenze, riassunti, archivio vettoriale) e riletto quando serve. Il modello di per sé non ricorda nulla tra una chiamata e l'altra: la «memoria» è sempre un meccanismo dell'applicazione, con questioni di privacy da gestire.
In AI, un modello è la rappresentazione matematica appresa durante il processo di addestramento. È l'output del training: una struttura di parametri (pesi numerici) che codifica la conoscenza estratta dai dati. Un modello può essere semplice (regressione lineare) o enormemente complesso (LLM con miliardi di parametri).
📖 Fonte: IBM — AI Models explained
Il model routing è la scelta automatica del modello più adatto a ogni richiesta: uno piccolo e veloce per le domande semplici, uno grande per il ragionamento difficile, uno specializzato per il codice o per le immagini. Ottimizza qualità, costo e latenza insieme. Il router può usare regole, un classificatore o un altro modello.
Un sistema multi-agente fa collaborare più agenti AI, ciascuno con un ruolo, istruzioni e strumenti propri: ad esempio un coordinatore che scompone il lavoro e agenti specialisti (ricerca, scrittura, verifica) che lo eseguono in parallelo o in sequenza. Può migliorare qualità e velocità su compiti ampi, ma moltiplica costi, complessità e possibilità di errore: spesso un singolo agente ben progettato basta.
Un modello multimodale elabora più tipi di contenuto — testo, immagini, audio, a volte video — e può usarli in ingresso, in uscita o in entrambi. Permette di descrivere una foto, leggere uno schema, trascrivere una voce o rispondere a una domanda su un grafico.
Una rete neurale artificiale è un sistema computazionale ispirato alla struttura del cervello umano, composto da strati di nodi (neuroni) interconnessi. Ogni connessione ha un peso numerico che viene aggiornato durante l'addestramento. Le reti neurali sono il mattone fondamentale del Deep Learning e di tutta l'AI generativa moderna.
📖 Fonte: IBM — What are Neural Networks?
L'NLP è il campo dell'AI dedicato alla comprensione e generazione del linguaggio umano da parte delle macchine. Comprende attività come analisi del sentimento, traduzione automatica, estrazione di entità, classificazione del testo e generazione di risposte. È la tecnologia fondamentale dietro tutti i chatbot e gli assistenti vocali.
📖 Fonte: IBM — What is NLP?
L'observability è la capacità di capire cosa fa un sistema LLM in produzione: il tracing registra ogni passaggio di una richiesta (prompt, modello usato, strumenti chiamati, token, tempi, errori) in modo da poterla ricostruire. Serve per trovare la causa di una risposta sbagliata, tenere sotto controllo costi e latenza e accorgersi dei problemi prima degli utenti. Va fatta nel rispetto della privacy, registrando il minimo necessario.
La PII redaction è la rimozione o sostituzione dei dati personali identificabili (nomi, indirizzi, email, numeri di telefono, codici fiscali, IBAN) prima che il testo venga inviato a un modello, salvato nei log o usato per l'addestramento. Riduce i rischi di privacy e di conformità al GDPR, soprattutto quando si usano servizi esterni.
Un prompt è il testo di input fornito a un modello AI per ottenere una risposta o un output. Può essere una domanda, un'istruzione, un esempio, o una combinazione di questi elementi. La qualità e la struttura del prompt influenzano direttamente la qualità della risposta — motivo per cui è nata una disciplina apposita: il Prompt Engineering.
📖 Fonte: IBM — Prompt Engineering Guide
Il Prompt Engineering è la disciplina che studia come progettare, ottimizzare e strutturare i prompt per ottenere risposte più accurate, utili e coerenti dagli LLM. Include tecniche come few-shot prompting (fornire esempi), chain-of-thought (ragionamento passo-passo), role prompting (assegnare un ruolo al modello) e molte altre.
📖 Fonte: IBM — What is Prompt Engineering?
La prompt injection è un attacco in cui un testo esterno (una pagina web, un documento, un'email) contiene istruzioni nascoste pensate per dirottare il modello, ad esempio per fargli rivelare dati o eseguire azioni. Il problema nasce dal fatto che per il modello istruzioni e dati sono entrambi testo. Le difese: trattare ogni contenuto esterno come dato non fidato, limitare i permessi degli strumenti, chiedere conferma per le azioni sensibili.
📖 Fonte: OWASP — Top 10 per applicazioni LLM
RAG è un'architettura AI che combina un sistema di recupero delle informazioni (retrieval) con un modello generativo. Invece di affidarsi solo alla conoscenza interna del modello, RAG cerca documenti rilevanti in una knowledge base esterna e li usa come contesto per generare risposte più accurate e aggiornate, riducendo le allucinazioni.
📖 Fonte: IBM — What is RAG?
Il reranking è un secondo passaggio, dopo la ricerca iniziale, in cui un modello più accurato (e più lento) riordina i risultati recuperati in base alla loro reale pertinenza rispetto alla domanda. Si recuperano ad esempio 50 candidati con una ricerca veloce e se ne tengono i 5 migliori da dare al modello: la qualità del RAG migliora senza cercare nell'intero archivio con il metodo costoso.
L'RLHF è la tecnica con cui si affina un modello usando giudizi umani: le persone classificano diverse risposte, con questi dati si addestra un modello di ricompensa e poi si usa l'apprendimento per rinforzo per spingere il modello verso le risposte preferite. È una delle ragioni per cui i chatbot moderni sono utili, cortesi e più sicuri rispetto ai modelli grezzi.
📖 Fonte: Ouyang et al. — Training language models to follow instructions with human feedback
Il sandboxing consiste nell'eseguire gli strumenti usati dal modello (soprattutto il codice che genera) in un ambiente isolato, con permessi, rete, file, memoria e tempo limitati. Se il codice è errato o malevolo, i danni restano confinati nella «sabbiera» e non toccano i dati o i sistemi reali.
La cache semantica riutilizza risposte già generate quando una nuova domanda è molto simile per significato (non solo identica nelle parole), confrontando gli embedding. Riduce costi e tempi nelle domande ripetitive. Va usata con cautela: non per dati che cambiano nel tempo, né per contenuti personali o con documenti allegati, e con una soglia di somiglianza prudente.
Passare da un prototipo che funziona in dimostrazione a un servizio per utenti reali richiede molto più del modello: limiti d'uso e controllo dei costi, gestione degli errori e dei fallback, privacy e informative, monitoraggio, test di regressione, avvisi sui limiti dell'AI, raccolta del feedback e un modo semplice per tornare alla versione precedente. È qui che si vede la differenza tra una demo e un prodotto.
La decodifica speculativa accelera la generazione: un modello piccolo e veloce propone alcuni token «di bozza» e il modello grande li verifica tutti insieme in un solo passaggio, accettando quelli corretti. Il risultato è identico a quello del modello grande da solo, ma ottenuto in meno tempo.
📖 Fonte: Leviathan et al. — Fast Inference from Transformers via Speculative Decoding
Una macchina a stati descrive un agente come un insieme di stati (ad esempio «raccogli i dati», «cerca», «verifica», «rispondi») e di transizioni consentite tra di essi. Rende il comportamento più prevedibile, testabile e facile da fermare rispetto a un ciclo completamente libero, perché a ogni passo si sa cosa può succedere dopo. È utile nei processi con regole precise.
Lo streaming invia la risposta al browser a pezzi, man mano che il modello genera i token, invece di aspettare che sia completa. Spesso si usa il protocollo SSE (Server-Sent Events), una connessione HTTP in cui il server manda eventi in sequenza. L'utente vede il testo comparire subito, ma la gestione degli errori è più delicata: se la connessione si interrompe a metà, la risposta resta parziale.
L'output strutturato è la richiesta al modello di rispondere in un formato rigido e leggibile da un programma (tipicamente JSON conforme a uno schema) invece che in testo libero. Alcuni provider lo garantiscono con una modalità dedicata; in altri casi serve validare la risposta e ripetere la richiesta se è sbagliata. È indispensabile quando l'output alimenta altro software.
Il Supervised Learning è la forma più comune di Machine Learning: il modello viene addestrato su un dataset in cui ogni esempio ha un'etichetta (label) che rappresenta la risposta corretta. Il modello impara a mappare gli input agli output desiderati minimizzando l'errore di predizione. È opposto all'Unsupervised Learning dove le etichette non esistono.
📖 Fonte: IBM — What is Supervised Learning?
Il system prompt è il testo di istruzioni che l'applicazione dà al modello prima della conversazione: ruolo, tono, regole, limiti, formato delle risposte. L'utente di solito non lo vede. Ha più peso del messaggio dell'utente ma non è una protezione inviolabile: istruzioni di sicurezza importanti vanno rafforzate con controlli esterni al modello.
La temperatura è un parametro che regola quanto il modello è «casuale» nello scegliere la parola successiva. Valori bassi (vicini a 0) rendono le risposte più prevedibili e ripetibili, adatte a estrazione di dati e risposte basate su documenti; valori più alti le rendono più varie e creative. Non rende il modello più intelligente né più accurato: cambia solo la variabilità.
Un token è l'unità di testo con cui lavora un modello linguistico: può essere una parola intera, una parte di parola, un segno di punteggiatura o uno spazio. In italiano un token vale in media circa 3–4 caratteri. I token determinano quanto testo entra nella finestra di contesto, quanto tempo richiede la risposta e quanto costa il servizio, perché i provider fatturano a milione di token in ingresso e in uscita.
Il top-p (nucleus sampling) è un parametro che limita la scelta del prossimo token a quelli più probabili la cui probabilità cumulata raggiunge una soglia p: con p = 0,9 il modello ignora la «coda» di scelte improbabili. Insieme alla temperatura controlla la variabilità delle risposte; di solito si regola uno solo dei due. Il termine sampling indica, in generale, la scelta casuale del token successivo in base alle probabilità.
📖 Fonte: Holtzman et al. — The Curious Case of Neural Text Degeneration
Il Transformer è l'architettura di rete neurale introdotta da Google nel 2017 nel paper "Attention Is All You Need" che ha rivoluzionato l'NLP e l'AI generativa. Utilizza un meccanismo chiamato "self-attention" per pesare l'importanza di ogni parola rispetto alle altre nel contesto. Quasi tutti i modelli linguistici moderni — GPT, BERT, Claude, Gemini — sono basati su architetture Transformer.
📖 Fonte: IBM — What is a Transformer Model?
Un database vettoriale conserva gli embedding e permette di trovare rapidamente quelli più vicini a un vettore di ricerca (ricerca per similarità, di solito approssimata). È il magazzino tipico dei sistemi RAG e della ricerca semantica. Esistono database dedicati e estensioni dei database tradizionali; per piccole raccolte può bastare anche una ricerca semplice in memoria.