Come ragionano le IA e perché mentono?

[TomBot]

L'intelligenza artificiale distingue i concetti di vero e falso? E se non li distingue come facciamo a sapere se una IA ci mente o no?

https://www.tomshw.it/hardware/come-ragionano-le-ia-e-perche-mentono

 

[Ospite Core_Guard #831]

ma infatti non bisogna mai prenderla per oro colato, io ormai controllo sempre

 

[Ospite RPG Guru #647]

Interessante l'analogia del pappagallo intelligente. Spiega bene il concetto

 

[Ospite Pro_Master #458]

quindi praticamente inventa le cose senza saperlo?

 

[Zeringo]

Ragionamento e ia sono due concetti che collidono e che quindi non esistono in questo caso.
Questa cosa che chiamate ia non ragiona, non valuta, non fa alcuna verifica, perchè non sa nulla, non conosce e non sapendo nulla si limita a calcolare, a fare previsioni.

Alla fine, i risultati ottenuti non vengono passati ad un attento vaglio, non vengono controllati e questo genera errori.

Non è altro che un sistema fallace e che in tanti mascherano la sua inaffidabilità, se ne guardano molto bene dal mostrare quello che è realmente.

 

[Ospite Tech_Soul #727]

il problema è che la gente ci crede ciecamente e poi diffonde cavolate

 

[Sandro8019]

Consigli pratici e di buon senso che tutti avrebbero già dovuto mettere in pratica.

Per il resto a parte l'efficienza non ci vedo molte differenze con il 90% degli essere umani. Molte persone credono di pensare o ragionare ma in realtà non fanno altro che rielaborare pensieri presi a caso senza capirne il contesto o le premesse. Con l'aggravante che le persone ci aggiungono anche bias che non sanno di avere.

 

[Ospite Node_Soul #585]

Ottimo articolo. Però si poteva scrivere anche due anni fa

 

[Ospite USB_Master #444]

Bell'articolo, grazie

 

[Ospite Bug_Shield #224]

L'articolo andava bene tre anni fa. Ora è completamente superato e anche fuorviante come divulgazione

 

[maxmun]

Non concordo su alcuni passaggi dell'articolo. Le IA sono addestrato su una miriade di fonti tra cui gli articoli scientifici o i social ma non mettono sullo stesso piano tutte le fonti. Quindi alla fatidica domanda sul riscaldamento globale ti risponderà con informazioni di natura scientifica e se tenti di forzarlo a dire il contrario ti bloccherà perché non vi sono contenuti altrettanto autorevoli che dicono il contrario

 

[Zeringo]

Informazioni scientifiche, tante ed opposte e chi gestisce le ia, farà in modo che quest'ultime forniscano solo la risposta che "soddisfa" una sola sponda del dibattito.

 

[gabriele.romano]

al momento chatGP serve grossomodo solo ad automatizzare compiti aricolati: correzione testi, ricerche, generazione codice di programmazione etc, ma controllare l'esatezza di ogni cosa è un'accortezza necessaria