Perché l'IA non dovrebbe giudicare per conto dell'utente: il principio di automazione di 5BY.AI
L'IA può riassumere conversazioni, classificare contenuti importanti e raccomandare azioni successive.
Ma quando l'IA inizia a determinare cosa è importante per conto dell'utente o a decidere che i giudizi passati devono essere seguiti così come sono, sorgono problemi.
Perché gli obiettivi e le situazioni umane cambiano costantemente.
La migliore scelta di ieri potrebbe non essere appropriata oggi. Anche quando si rivisita lo stesso argomento, i giudizi potrebbero differire basandosi su nuove informazioni ed esperienza.
Quindi 5BY.AI non è un servizio che trae conclusioni per conto dell'utente. Mira a essere un servizio che aiuta gli utenti a ricomprendere il pensiero passato e a prendere le proprie decisioni nella situazione attuale.
L'IA può organizzare la base per il giudizio ma non dovrebbe diventare la proprietaria del giudizio.
Più l'automazione diventa conveniente, più dobbiamo essere prudenti
L'IA può trovare rapidamente contenuti chiave in conversazioni lunghe.
Può raggruppare conversazioni simili, raccomandare frasi che sembrano importanti e inferire relazioni tra record passati e domande attuali.
Questa automazione è certamente utile.
Ma quando i risultati dell'automazione sono trattati come il giudizio finale dell'utente, i seguenti problemi possono sorgere.
- Ciò che l'IA considera importante e ciò che l'utente considera importante potrebbe differire.
- Proposte ancora in revisione potrebbero rimanere come se fossero decisioni confermate.
- Giudizi vecchi potrebbero apparire validi nelle situazioni attuali.
- Una classificazione creata una volta potrebbe limitare il pensiero successivo.
- Gli utenti potrebbero avere difficoltà a distinguere i propri pensieri dalle interpretazioni dell'IA.
L'automazione dovrebbe ridurre lo sforzo dell'utente.
Ma non dovrebbe togliere all'utente il diritto di giudicare.
Le conversazioni importanti differiscono da persona a persona
Anche leggendo la stessa conversazione, persone diverse potrebbero concentrarsi su punti diversi come importanti.
Una persona potrebbe considerare la conclusione finale più importante.
Un'altra potrebbe considerare la causa del fallimento scoperta durante il processo o le opzioni escluse più importanti della conclusione.
L'IA può stimare l'importanza basandosi sulla lunghezza delle frasi, sulle espressioni ripetute e sulla struttura della conversazione.
Ma è difficile conoscere perfettamente i seguenti significati personali.
- Questa frase descriveva precisamente un problema a lungo agonizzato
- Una singola breve risposta ha cambiato la direzione del progetto
- È apparentemente banale ma un avvertimento che deve essere ricordato
- È un'idea non finita da sviluppare in seguito
- È ordinaria per altri ma collegata a un'esperienza speciale per l'utente
Quindi 5BY.AI è cauta nel far determinare automaticamente all'IA tutte le conversazioni importanti.
L'IA può suggerire candidati, ma l'utente dovrebbe scegliere cosa preservare effettivamente.
Anchor non è una risposta ma una coordinata per il rigiudizio
L'Anchor di 5BY.AI non è una funzione che fissa le conclusioni passate come risposte eterne.
Anchor è un punto di riferimento nel flusso di pensiero che l'utente ha giudicato degno di ritornarvi.
Il seguente contesto potrebbe rimanere a quel punto.
- Il problema being risolto all'epoca
- I fatti confermati
- Le opzioni che erano confrontate
- La direzione scelta e il motivo
- I metodi esclusi e i loro motivi
- Le domande non ancora risolte
- Il punto da cui continuare la prossima volta
Gli utenti possono successivamente tornare all'Anchor e ripetere il giudizio passato così com'è o prendere un nuovo giudizio adattato alle condizioni cambiate.
Ciò che conta non è lasciare le conclusioni passate come comandi da obbedire.
È lasciarle come coordinate per ricomprendere perché tali giudizi erano stati presi.
I giudizi passati devono essere visti insieme alle circostanze attuali
Quando le persone prendono giudizi, sono influenzate dalle informazioni e condizioni dell'epoca.
Il budget potrebbe essere stato insufficiente, vincoli tecnici potrebbero essere esistiti, le programmazioni potrebbero essere state strette, o i materiali disponibili potrebbero non essere stati sufficienti.
Nel tempo, queste condizioni possono cambiare.
Ad esempio, un metodo escluso in passato a causa del costo potrebbe ora essere più accessibile.
Una funzionalità che era impossibile all'epoca potrebbe ora essere possibile con nuova tecnologia.
Gli obiettivi dell'utente potrebbero essere cambiati, portandolo a vedere lo stesso problema con criteri diversi.
Quindi mostrare solo la decisione passata non è sufficiente.
Le seguenti domande devono essere ricontrollabili.
- Quali condizioni esistevano all'epoca
- Quelle condizioni sono ancora mantenute
- Sono state aggiunte nuove informazioni
- Le opzioni precedentemente escluse dovrebbero essere revisionate di nuovo
- Gli obiettivi attuali sono gli stessi di prima
Il motivo per cui 5BY.AI preserva il contesto passato non è fissare i giudizi precedenti.
È aiutare l'utente attuale a prendere migliori rigiudizi.
Anche sullo stesso argomento, i giudizi possono differire
Le persone non danno sempre la stessa risposta alla stessa domanda.
Perché acquisiscono nuove esperienze, confermano più informazioni, e i valori che considerano importanti possono cambiare.
Ad esempio, un utente potrebbe aver considerato il lancio rapido più importante in passato ma ora dare priorità alla stabilità e alla privacy.
Anche discutendo dello stesso prodotto e della stessa funzionalità, la conclusione può differire.
Questo cambiamento non è un'incoerenza o un errore.
È un processo naturale delle persone che imparano e si adattano alle situazioni.
5BY.AI non dovrebbe giudicare automaticamente uno come errato solo perché i giudizi passato e presente differiscono.
Invece, dovrebbe permettere agli utenti di esaminare in quali condizioni ogni giudizio era stato preso e cosa era cambiato.
Le raccomandazioni IA e le decisioni dell'utente devono essere distinte
L'IA può fare suggerimenti utili.
Può raccomandare parti importanti delle conversazioni, collegare record simili e presentare domande da revisionare dopo.
Ma raccomandazione e decisione sono cose diverse.
- Le raccomandazioni IA sono candidati da revisionare.
- Le selezioni dell'utente sono giudizi da preservare effettivamente.
- Le decisioni passate sono materiale di riferimento per il giudizio attuale.
- Le decisioni attuali devono essere prese di nuovo basandosi sulle condizioni presenti.
Se questa distinzione scompare, gli utenti potrebbero scambiare i contenuti suggeriti dall'IA per le proprie decisioni confermate.
Al contrario, i giudizi importanti che gli utenti hanno preso autonomamente potrebbero essere debolmente rappresentati nel processo di riepilogo automatico.
5BY.AI dovrebbe distinguere le interpretazioni create dall'IA dai significati che gli utenti hanno direttamente selezionato il più chiaramente possibile.
Gli utenti dovrebbero poter sapere cosa era suggerito automaticamente e cosa avevano preservato loro stessi.
Graph View è anche solo un'interpretazione
Graph View ti permette di esaminare le relazioni tra diversi Pack, Anchor e pensieri.
Ma le connessioni visualizzate nel grafo non possono essere considerate una mappa assoluta che spiega perfettamente il pensiero umano.
Due record che l'IA ha giudicato come correlati potrebbero essere problemi separati per l'utente.
Al contrario, gli utenti potrebbero scoprire significato importante tra record che non erano stati automaticamente collegati.
Il ruolo di Graph View non è fissare il pensiero dell'utente in una singola struttura.
È aiutare gli utenti a sfogliare i record passati da diverse prospettive e scoprire nuove relazioni.
Il grafo non dovrebbe essere una schermata che dà risposte per conto dell'utente ma una schermata di esplorazione che li fa pensare di nuovo.
Ridurre il giudizio automatico non significa abbandonare l'automazione
Il fatto che 5BY.AI sia cauta sul giudizio automatico non significa che gli utenti debbano fare tutto manualmente.
Analizzare conversazioni lunghe, rilevare i confini di contesto dei Pack, trovare record correlati e organizzare i contenuti necessari per Handoff richiedono automazione.
Ciò che conta è distinguere il ruolo dell'automazione.
Ciò che l'IA può fare bene è quanto segue.
- Organizzare conversazioni lunghe.
- Trovare temi e contesti ricorrenti.
- Raccomandare record con possibile rilevanza.
- Mostrare rapidamente la base per i giudizi passati.
- Costruire contesto da consegnare alle nuove conversazioni.
Ciò che gli utenti dovrebbero decidere è quanto segue.
- Cosa è importante per loro
- Quali conversazioni preservare
- Se mantenere i giudizi passati nel presente
- Quali suggerimenti accettare come decisioni effettive
- Quanto del loro pensiero condividere
L'IA assume il ruolo di assistere il giudizio, e l'autorità finale sul giudizio dovrebbe rimanere con l'utente.
5BY.AI preserva il significato ma non lo chiude
5BY.AI aiuta a garantire che i pensieri e i giudizi creati nelle conversazioni IA non si disperdano.
Ma non cerca di fissare i significati passati come singole risposte.
Le persone possono cambiare il loro pensiero nel tempo.
Possono revisionare le decisioni passate basandosi su nuove informazioni e scoprire nuovo significato tra record che precedentemente non potevano collegare.
Le coordinate che 5BY.AI lascia non sono dispositivi che legano gli utenti al passato.
Sono punti di partenza che permettono agli utenti di comprendere quanto lontano i loro io passati avevano pensato e abilitano gli io attuali a scegliere di nuovo.
5BY.AI non giudica per conto dell'utente.
Mostra tracce e coordinate di pensiero in modo che l'utente possa prendere decisioni migliori di nuovo.
L'automazione potrebbe essere usata per produrre più conclusioni più velocemente.
Ma l'automazione a cui 5BY.AI aspira è diversa.
Non automazione che decide per conto del pensiero dell'utente, ma automazione che aiuta gli utenti a non perdere il loro pensiero e a rigiudicare.
Articoli e funzionalità correlate
- Perché 5BY.AI fa selezionare direttamente agli utenti le conversazioni importanti
- Il Pack di 5BY.AI che raggruppa i confini di contesto nelle conversazioni IA non è un argomento
- Come riprendere da dove il pensiero si è fermato dopo aver sospeso le conversazioni IA
- Perché 5BY.AI studia la memoria e il giudizio umano nei servizi di memoria delle conversazioni IA
- Esplorare 5BY.AI Graph View
- Esplorare gli strumenti di 5BY.AI