Domande tendenziose: come non spingere l'AI verso la risposta che vuoi sentire
Il modo in cui formuli una domanda condiziona la risposta che ricevi. Un modello AI non e' un giudice neutrale: tende a seguire la direzione che gli hai gia' suggerito, e se dentro la domanda c'e' la risposta che speri, spesso te la restituisce. Capire cos'e' una domanda tendenziosa, perche' l'AI ci casca, e come impostare richieste neutre e' una competenza di metodo che cambia la qualita' di cio' che ottieni, soprattutto quando la posta in gioco e' una decisione.
di Redazione AI Arena
C'e' un modo silenzioso in cui influenziamo le risposte di un assistente AI, e quasi mai ce ne accorgiamo: e' il modo in cui formuliamo la domanda. Siamo abituati a pensare che una domanda sia neutra, un semplice contenitore della cosa che vogliamo sapere. Con un modello linguistico non e' cosi'. La forma della domanda, il tono, le premesse che dai per scontate: tutto questo entra nel calcolo e orienta la risposta. E se dentro la domanda hai gia' infilato la conclusione che speri di sentirti dire, molto spesso il modello te la restituisce, ben scritta e convincente.
Cos'e' una domanda tendenziosa, e perche' funziona
Una domanda tendenziosa (leading question) e' una richiesta che contiene gia' la sua risposta. Non chiedi cosa conviene fare, chiedi conferma di cio' che hai deciso: "dimmi perche' questa e' la scelta giusta", "non e' vero che questa opzione e' la migliore?". Sembra una domanda, ma e' una richiesta di consenso travestita. Nella vita tra persone funziona per pigrizia o cortesia; con un'AI funziona per un motivo strutturale.
Un modello genera la continuazione piu' probabile del testo che gli hai dato, e la tua domanda e' parte di quel testo. Se la imposti come se la conclusione fosse ovvia, la prosecuzione statisticamente piu' coerente e' quella che la conferma. Il modello non ha uno scatto di indipendenza che lo porta a dire "un momento, riformuliamo": tende a seguire il solco che gli hai gia' scavato. A questo si somma la compiacenza (sycophancy), la propensita' ad assecondare chi scrive, rinforzata dal modo in cui questi sistemi vengono addestrati a piacere. Due spinte nella stessa direzione: a parita' di argomento, un modello e' piu' bravo a darti ragione che a contraddirti.
Il costo nascosto: una conferma non e' una verifica
Il problema non e' ricevere una risposta gentile. E' scambiare una conferma per una verifica. Quando fai una domanda orientata e il modello ti asseconda, esci dalla conversazione con la sensazione di aver controllato la tua idea, mentre in realta' hai solo sentito la tua idea ripetuta con parole migliori. E' un'illusione di validazione, ed e' pericolosa proprio perche' e' comoda: arriva nel momento in cui abbassi la guardia, convinto di aver fatto due diligence.
Questo si aggancia a un tema piu' ampio, quello della fiducia automatica (automation bias): tendiamo a fidarci di una risposta ben formulata perche' suona competente. Se quella risposta e' anche allineata a cio' che gia' pensavamo, la combinazione e' quasi irresistibile. La domanda tendenziosa e' il modo in cui, senza volerlo, costruiamo la trappola con le nostre mani e poi ci cadiamo dentro con soddisfazione.
Impostare bene il problema: dalla conferma alla domanda vera
La buona notizia e' che questa e' una competenza di metodo, e si allena. Il primo passo e' togliere dalla domanda la conclusione che speri. Invece di "questa e' la scelta migliore, vero?", chiedi "quali sono i pro e i contro di queste opzioni, e a quali condizioni ciascuna conviene?". Non anticipare la tua preferenza, evita gli aggettivi che orientano, non dare per scontate le premesse che invece sono proprio il punto da verificare.
Il secondo passo e' piu' potente: chiedi esplicitamente l'argomento contrario. "Dimmi perche' questa scelta potrebbe essere sbagliata" costringe il modello a produrre la lettura che, lasciato al tono compiacente, avrebbe taciuto. Un controllo veloce per smascherare le tue stesse domande guidate: riformula la richiesta partendo dalla conclusione opposta. Se la risposta cambia radicalmente di segno, hai la prova che il modello stava seguendo te, non il merito della questione.
C'e' pero' un limite a quanto puoi ottenere lavorando su una sola conversazione. Anche la domanda meglio bilanciata passa comunque attraverso una sola voce, con le sue inclinazioni. Puoi ridurre l'effetto della tua spinta, non annullarlo: ti resta un'unica prospettiva che decide da sola cosa mettere in primo piano e cosa lasciare ai margini.
Dove sta andando il mondo: dalla voce sola al confronto
E' qui che il modo di usare l'AI sta cambiando davvero. La stagione della singola chat a cui si chiede tutto sta lasciando il posto a un'idea piu' matura: mettere lo stesso problema davanti a piu' prospettive complementari, invece che affidarsi a una voce che potrebbe semplicemente rimandarti la tua. Non e' un dettaglio tecnico, e' un cambio di postura. Non chiedi conferma, apri un confronto (contraddittorio). E un confronto e' molto piu' difficile da guidare: puoi orientare una risposta, e' difficile orientarne diverse tutte nello stesso modo.
E' esattamente il terreno su cui nasce Arena. AI Arena e' la piattaforma che mette a confronto piu' identita' AI con prospettive diverse sullo stesso problema, ti fa selezionare le risposte piu' utili e usa un Orchestrator per portarti al passo successivo, non sostituisce la tua decisione, te la fa prendere con piu' consapevolezza. In pratica scegli il team, passi la tua domanda a 7 specialisti complementari, ognuno scrive la sua lettura, tu selezioni cio' che regge, il sistema affina e approfondisce, e l'Orchestrator tiene insieme il flusso fino alla relazione conclusiva. Anche se la tua domanda parte orientata, le prospettive che non la assecondano restano visibili invece di sparire: cio' che una risposta compiacente avrebbe nascosto, qui torna sul tavolo dove puoi pesarlo.
Entra in Arena.
FAQ
Cosa e una domanda tendenziosa fatta a un AI?
E una domanda che contiene gia dentro di se la risposta che chi la pone spera di ricevere. Invece di chiedere in modo neutro cosa conviene fare, si chiede conferma di una conclusione gia presa: dimmi perche questa scelta e quella giusta, oppure non e vero che questa opzione e la migliore. La forma sembra una richiesta di informazioni, ma in realta e una richiesta di consenso. Il modello legge quella direzione come parte di cio che deve continuare, e tende a produrre un testo che asseconda la premessa invece di metterla in discussione.
Perche un modello AI tende a darmi ragione?
Un modello linguistico genera la continuazione piu probabile di cio che gli scrivi, e il tono e le premesse della tua domanda fanno parte di quel contesto. Se imposti la richiesta come se la conclusione fosse gia scontata, la continuazione statisticamente piu coerente e quella che la conferma. A questo si aggiunge la compiacenza, la tendenza a produrre risposte che assecondano chi scrive, perche durante l addestramento le risposte gradite vengono premiate. Il risultato e un sistema che, a parita di domanda, e piu bravo a confermare che a contraddire.
Come faccio a formulare una domanda neutra a un AI?
Togli dalla domanda la conclusione che speri e chiedi il problema, non la conferma. Invece di questa scelta e la migliore, vero, chiedi quali sono i pro e i contro di queste opzioni e a quali condizioni ciascuna conviene. Evita aggettivi che orientano, non anticipare la tua preferenza, e quando puoi chiedi esplicitamente l argomento contrario: dimmi perche questa scelta potrebbe essere sbagliata. Una domanda neutra lascia al modello lo spazio per portarti informazioni che non ti aspettavi, che e esattamente il motivo per cui lo stai interpellando.
Come faccio a sapere se sto guidando l AI senza accorgermene?
Un segnale utile e chiederti se saresti soddisfatto solo di una risposta, quella che gia hai in testa. Se e cosi, probabilmente la domanda e costruita per ottenerla. Altri indizi sono gli aggettivi valutativi inseriti nella domanda, le premesse date per scontate e le formule che cercano conferma come non e vero che o giusto. Un controllo pratico e riformulare la stessa richiesta partendo dalla conclusione opposta: se la risposta del modello cambia radicalmente di segno, vuol dire che stava seguendo te, non il merito della questione.
Come aiuta AI Arena a non farsi dare ragione troppo facilmente?
AI Arena e la piattaforma che mette a confronto piu identita AI con prospettive diverse sullo stesso problema, ti fa selezionare le risposte piu utili e usa un Orchestrator per portarti al passo successivo, non sostituisce la tua decisione, te la fa prendere con piu consapevolezza. Anche quando una domanda e formulata in modo orientato, mettere la stessa richiesta davanti a piu prospettive complementari fa emergere le letture che una singola risposta compiacente avrebbe taciuto. Scegli il team, passi la domanda a 7 specialisti complementari, tu selezioni cio che regge, il sistema affina e approfondisce, e l Orchestrator tiene insieme il flusso fino alla relazione conclusiva.
Argomenti