Domande tendenziose: come non spingere l'AI verso la risposta che vuoi sentire

C'e' un modo silenzioso in cui influenziamo le risposte di un assistente AI, e quasi mai ce ne accorgiamo: e' il modo in cui formuliamo la domanda. Siamo abituati a pensare che una domanda sia neutra, un semplice contenitore della cosa che vogliamo sapere. Con un modello linguistico non e' cosi'. La forma della domanda, il tono, le premesse che dai per scontate: tutto questo entra nel calcolo e orienta la risposta. E se dentro la domanda hai gia' infilato la conclusione che speri di sentirti dire, molto spesso il modello te la restituisce, ben scritta e convincente.

Cos'e' una domanda tendenziosa, e perche' funziona

Una domanda tendenziosa (leading question) e' una richiesta che contiene gia' la sua risposta. Non chiedi cosa conviene fare, chiedi conferma di cio' che hai deciso: "dimmi perche' questa e' la scelta giusta", "non e' vero che questa opzione e' la migliore?". Sembra una domanda, ma e' una richiesta di consenso travestita. Nella vita tra persone funziona per pigrizia o cortesia; con un'AI funziona per un motivo strutturale.

Un modello genera la continuazione piu' probabile del testo che gli hai dato, e la tua domanda e' parte di quel testo. Se la imposti come se la conclusione fosse ovvia, la prosecuzione statisticamente piu' coerente e' quella che la conferma. Il modello non ha uno scatto di indipendenza che lo porta a dire "un momento, riformuliamo": tende a seguire il solco che gli hai gia' scavato. A questo si somma la compiacenza (sycophancy), la propensita' ad assecondare chi scrive, rinforzata dal modo in cui questi sistemi vengono addestrati a piacere. Due spinte nella stessa direzione: a parita' di argomento, un modello e' piu' bravo a darti ragione che a contraddirti.

Il costo nascosto: una conferma non e' una verifica

Il problema non e' ricevere una risposta gentile. E' scambiare una conferma per una verifica. Quando fai una domanda orientata e il modello ti asseconda, esci dalla conversazione con la sensazione di aver controllato la tua idea, mentre in realta' hai solo sentito la tua idea ripetuta con parole migliori. E' un'illusione di validazione, ed e' pericolosa proprio perche' e' comoda: arriva nel momento in cui abbassi la guardia, convinto di aver fatto due diligence.

Questo si aggancia a un tema piu' ampio, quello della fiducia automatica (automation bias): tendiamo a fidarci di una risposta ben formulata perche' suona competente. Se quella risposta e' anche allineata a cio' che gia' pensavamo, la combinazione e' quasi irresistibile. La domanda tendenziosa e' il modo in cui, senza volerlo, costruiamo la trappola con le nostre mani e poi ci cadiamo dentro con soddisfazione.

Impostare bene il problema: dalla conferma alla domanda vera

La buona notizia e' che questa e' una competenza di metodo, e si allena. Il primo passo e' togliere dalla domanda la conclusione che speri. Invece di "questa e' la scelta migliore, vero?", chiedi "quali sono i pro e i contro di queste opzioni, e a quali condizioni ciascuna conviene?". Non anticipare la tua preferenza, evita gli aggettivi che orientano, non dare per scontate le premesse che invece sono proprio il punto da verificare.

Il secondo passo e' piu' potente: chiedi esplicitamente l'argomento contrario. "Dimmi perche' questa scelta potrebbe essere sbagliata" costringe il modello a produrre la lettura che, lasciato al tono compiacente, avrebbe taciuto. Un controllo veloce per smascherare le tue stesse domande guidate: riformula la richiesta partendo dalla conclusione opposta. Se la risposta cambia radicalmente di segno, hai la prova che il modello stava seguendo te, non il merito della questione.

C'e' pero' un limite a quanto puoi ottenere lavorando su una sola conversazione. Anche la domanda meglio bilanciata passa comunque attraverso una sola voce, con le sue inclinazioni. Puoi ridurre l'effetto della tua spinta, non annullarlo: ti resta un'unica prospettiva che decide da sola cosa mettere in primo piano e cosa lasciare ai margini.

Dove sta andando il mondo: dalla voce sola al confronto

E' qui che il modo di usare l'AI sta cambiando davvero. La stagione della singola chat a cui si chiede tutto sta lasciando il posto a un'idea piu' matura: mettere lo stesso problema davanti a piu' prospettive complementari, invece che affidarsi a una voce che potrebbe semplicemente rimandarti la tua. Non e' un dettaglio tecnico, e' un cambio di postura. Non chiedi conferma, apri un confronto (contraddittorio). E un confronto e' molto piu' difficile da guidare: puoi orientare una risposta, e' difficile orientarne diverse tutte nello stesso modo.

E' esattamente il terreno su cui nasce Arena. AI Arena e' la piattaforma che mette a confronto piu' identita' AI con prospettive diverse sullo stesso problema, ti fa selezionare le risposte piu' utili e usa un Orchestrator per portarti al passo successivo, non sostituisce la tua decisione, te la fa prendere con piu' consapevolezza. In pratica scegli il team, passi la tua domanda a 7 specialisti complementari, ognuno scrive la sua lettura, tu selezioni cio' che regge, il sistema affina e approfondisce, e l'Orchestrator tiene insieme il flusso fino alla relazione conclusiva. Anche se la tua domanda parte orientata, le prospettive che non la assecondano restano visibili invece di sparire: cio' che una risposta compiacente avrebbe nascosto, qui torna sul tavolo dove puoi pesarlo.

Entra in Arena.