Un’AI che non può scrivere senza la vostra approvazione
Aggiornato
In breve
Un assistente AI può essere sicuro all’interno di un’istituzione regolamentata?
In Kelvyn l’assistente legge liberamente e non scrive mai senza un’approvazione esplicita. Tutte le operazioni di modifica di un turno confluiscono in un’unica scheda di approvazione con l’anteprima di ciascuna operazione, ed esegue soltanto ciò che avete approvato e che risulta ancora valido. Questo vale in tutte e tre le modalità di autonomia, compresa la più autonoma. Le azioni di firma sono precluse all’assistente, ogni azione è registrata con l’identità agente e quella effettiva, e le scritture sono annullabili singolarmente.
Il presidio sulle scritture
Un turno esegue immediatamente gli strumenti di sola lettura, perché leggere non è un rischio che meriti una finestra di conferma. Ogni strumento che modificherebbe qualcosa viene trattenuto, raccolto e presentato come un’unica approvazione complessiva con l’anteprima delle singole operazioni. L’esecuzione riguarda l’intersezione fra ciò che è stato approvato e ciò che è ancora valido al momento dell’esecuzione.
L’impostazione di autonomia governa la pianificazione, non la scrittura. Le due sono state deliberatamente disaccoppiate, così che aumentare l’autonomia non disattivi come effetto collaterale il presidio sulle scritture.
Alcune azioni sono precluse in assoluto
Le azioni di firma — voti del Consiglio, approvazioni, validazioni — sono precluse integralmente all’assistente, e lo sono anche in impersonificazione. Richiedono la sessione personale dell’esponente e il suo ruolo aziendale, su 27 azioni di firma governate.
La conseguenza merita di essere detta con chiarezza: un amministratore di sistema non può firmare una delibera del Consiglio, e non può farlo nemmeno un’AI che agisca per suo conto.
I numeri sono verificati, e la verifica è mostrata
Ogni chiamata a uno strumento emette una citazione della fonte. Gli importi in valuta, le percentuali e i moltiplicatori presenti nella narrazione sono confrontati con i risultati degli strumenti dello stesso turno alla precisione di visualizzazione, e il numero di valori tracciati è mostrato all’utente anziché restare in un log.
Il catalogo delle misure rifiuta le sostituzioni. Se chiedete il valore di libro ottenete il costo ammortizzato consuntivo oppure un rifiuto motivato: mai il valore nominale o il prezzo di acquisto presentati come valore di libro.
L’attribuzione sopravvive all’impersonificazione
Le righe di audit riportano sia l’utente agente sia la sessione di impersonificazione ove presente, così che l’accesso di supporto sia attribuibile e non anonimo. La superficie analitica è isolata dagli strumenti di azione a prescindere dal tipo di conversazione memorizzato: una superficie di sola lettura resta di sola lettura.
Perimetro
Che cosa non fa
Non tutti i valori sono tracciati. I conteggi semplici e gli anni sono esclusi per scelta progettuale, e la prosa qualitativa non è tracciata affatto. Un valore che non può essere risolto viene annotato come non risolto: non viene bloccato.
Il verificatore deterministico dell’output di chat opera in modalità shadow: registra i rilievi e non sopprime il risultato. I digest di monitoraggio continuo si comportano al contrario — sono in enforcement fin dall’origine e vengono soppressi se un qualsiasi controllo numerico non è superato.
Le esecuzioni di stress immutabili non sono annullabili. L’annullamento per singolo strumento copre le scritture in generale, ma ciò che è stato progettato per non essere mai revocato non viene revocato.
Domande
- L’assistente può modificare i dati autonomamente?
- No. Ogni operazione di modifica attende un’approvazione esplicita in tutte e tre le modalità di autonomia, con l’anteprima di ciascuna operazione prima dell’approvazione.
- L’AI può approvare una delibera del Consiglio?
- No. Le azioni di firma richiedono la sessione personale dell’esponente e il suo ruolo aziendale, e sono rifiutate in impersonificazione. Le azioni governate di questo tipo sono 27.
- Come sappiamo che un numero in una risposta è reale?
- Ogni chiamata a uno strumento emette una citazione della fonte, e importi in valuta, percentuali e moltiplicatori sono confrontati con i risultati degli strumenti del turno alla precisione di visualizzazione, con il numero di valori tracciati mostrato a schermo. Conteggi semplici, anni e affermazioni qualitative restano fuori da questo controllo.
Correlati