Risposte con le fonti, e un'intelligenza che si misura

Cos'è

La IO di ERERE non risponde a memoria quando il sapere c'è: cerca per significato nel sapere di ERERE (guide, costituzione, conoscenza della comunità, fondamenta) e ti dice da dove viene ciò che afferma, con un numero tra parentesi quadre che rimanda alla fonte. Intorno a questo ci sono i controlli che tengono onesta l'intelligenza: un esame completo a ogni modello nuovo, un tetto al testo scritto da altre intelligenze, l'allineamento alle preferenze della comunità, una difesa dai testi che tentano di darle ordini e un contatore dell'energia che consuma.

Perché esiste

Una frase con la fonte si può controllare, una senza fonte è solo un'opinione del modello. E un'intelligenza che migliora da sola deve poter dimostrare che non peggiora: che tratta tutti allo stesso modo, che non sbaglia i fatti, che parla la tua lingua e che non cede a chi la inganna.

Come funziona per te

• Risposte con le fonti: la IO cerca prima nel sapere di ERERE usando un modello aperto che gira sui server di ERERE: la tua domanda non va a fornitori esterni. Cita solo fonti che ha davvero trovato; se non ne ha, ti dice «non ho una fonte per questo». Un rimando inventato viene tolto prima che tu lo veda, e in fondo trovi l'elenco delle fonti.
• Testi che danno ordini: ciò che la IO legge da fuori è trattato come materiale da leggere, non come comando. Se dentro c'è una frase che tenta di darle ordini, la frase viene tolta e la IO non propone alcuna azione in quel giro; anche dopo una lettura normale, ogni azione ti arriva con l'avviso «dopo aver letto contenuti esterni» e parte solo se confermi tu.
• Un esame a ogni modello nuovo: prima che un modello prenda il posto di quello in uso, ERERE lo mette alla prova in quattro aree: pregiudizio (la stessa domanda cambiando solo genere, provenienza o età della persona deve dare la stessa decisione), fatti, lingue e sicurezza. Basta un errore di sicurezza per fermarlo.
• Sempre sapere umano: ogni testo usato per addestrare ha un'origine. Quello scritto da altre intelligenze ha un tetto sul totale e non sostituisce mai il sapere scritto da persone: così il modello non si impoverisce ripetendo sé stesso.
• Preferenze della comunità: se hai scelto di insegnare, il tuo «utile / non utile» conta solo quando almeno 5 persone diverse giudicano la stessa domanda nello stesso modo; non entra mai il giudizio di una persona sola.
• Energia e CO₂: ERERE stima quanta energia consuma ogni risposta e ogni addestramento, e lo mostra al Custode nella console.

Cosa dai

Niente di nuovo: se hai scelto di insegnare, il tuo «utile / non utile» alle risposte, senza che nessuno sappia che sei tu.

Cosa ricevi

Risposte che puoi controllare, una IO che non cambia modo di trattarti in base a chi sei e un'intelligenza che non si rovina da sola.

Cosa scegli tu

Insegnare o no, con un tocco, in ogni momento (come già nell'apprendimento dalla comunità). Le fonti si vedono sempre.

Limiti onesti

La ricerca per significato dipende dal modello aperto messo sul server: se non c'è, ERERE ripiega su una ricerca per parole e lo dichiara. Una fonte trovata non rende vera la frase: la Consulta resta il controllo per i dubbi seri. Le prove sul pregiudizio sono a campione: un modello che le supera non è «senza pregiudizi», non ne ha di misurabili con quelle prove. Non esiste un rilevatore sicuro di testo scritto da un'intelligenza: il tetto vale per ciò che ERERE sa dell'origine. Nessuna difesa di testo è completa contro un attaccante ben preparato: la difesa vera è che la IO non può pagare né cancellare e che ogni azione passa dalla tua conferma. L'energia è una stima, non una misura.

A che punto è

Nel sistema e verificato dalle prove automatiche con modelli e servizi simulati: ricerca per significato con ripiego dichiarato, citazioni verificate, banco di prova a quattro aree con cancello, tetto al testo di IA, coppie per l'allineamento, blocco delle azioni dopo testi ostili, contatore di energia. Da fare sul server vero: modello di embedding aperto, primo addestramento con le preferenze (GPU), misure reali di consumo.