COMPARTIR | IMPRIMIR | CORREU ELECTRÒNIC
L'amenaça que suposa la intel·ligència artificial ha dominat cada cop més els programes de converses de televisió i ràdio convencionals durant les últimes setmanes. Les advertències van arribar als titulars per primera vegada a finals de l'any passat, quan ChatGPT va guanyar més d'un milió d'usuaris menys d'una setmana després del seu llançament. En aquell moment, la preocupació es va centrar principalment en la capacitat de ChatGPT d'imitar les respostes humanes, produint instantàniament respostes a preguntes d'examen, assaigs universitaris i fins i tot. notícies – amenaçar amb deixar sense sentit els resultats dels exàmens i posar milions de diners.
L'amenaça va assolir un punt de febre a finals de maig quan el Centre per a la Seguretat de la IA va publicar a declaració, signat per centenars de destacats experts internacionals en la matèria, advertint que la intel·ligència artificial suposa un risc existencial per a la humanitat al mateix nivell que les pandèmies i les guerres nuclears.
Mitigació del risc d'extinció de la IA hauria de ser una prioritat global juntament amb altres riscos a escala social com les pandèmies i la guerra nuclear.
Segons Michael Osborne, professor d'aprenentatge automàtic a la Universitat d'Oxford i cofundador de Mind Foundry, és el risc d'extinció el que preocupa més.
"És realment notable que tanta gent s'hagi inscrit en aquesta carta", va dir. "Això demostra que hi ha una consciència creixent entre els que treballem en IA que els riscos existencials són una preocupació real".
"Com que no entenem molt bé la IA, hi ha la possibilitat que pugui jugar un paper com a nou organisme competidor al planeta, de manera que una espècie d'espècie invasora que hem dissenyat podria tenir un paper devastador en la nostra supervivència. com a espècie", va dir Osborne.
Cavalcant la cresta del que ara era un frenesí de la IA, el primer ministre del Regne Unit, Rishi Sunak, va utilitzar el seu viatge a Washington la setmana següent per promocionar Gran Bretanya com a centre global de regulació de la IA i buscar el suport de Joe Biden per a una cimera mundial sobre seguretat de la IA organitzada pel Regne Unit.
El president Biden va destacar el "potencial de la IA per fer un gran dany si no es controla", però també el seu "potencial per curar el càncer". "Té un potencial enorme i estem buscant que Gran Bretanya ajudi a liderar aquest esforç, a trobar una manera de superar-ho".
Amb tota la pors centrada ara fermament en la superioritat d'aquesta nova espècie invasora d'intel·ligència "alienígena", sembla grossí, vora la teoria de la conspiració, preguntar-se si pot ser una mena de campanya de màrqueting elaborada per aquells intel·ligents relacions públiques. persones contractades per la indústria de la IA per augmentar les vendes dels seus productes.
Podria ser que se'ns està dirigint malament per mirar de la manera equivocada, i la major amenaça existencial per a la nostra supervivència com a espècie no prové de la intel·ligència superior de la IA, sinó de la seva grossa estupidesa?
Si la IA és realment un estudiant de triple A. preparats per substituir els humans en totes les àrees concebibles, des del periodisme passant per la medicina i el dret fins a la ciència i l'enginyeria, llavors realment no tenim res de què preocupar-nos, a part de com distribuir tota la riquesa addicional que genera i què farem amb el nostre temps lliure.
Però si la intel·ligència artificial no és tot el que es pensa, què? Quin paper devastador podria tenir un exèrcit de gestors, metges, advocats, científics i enginyers idiotes i irresponsables en la nostra supervivència com a espècie?
Per provar aquesta hipòtesi vam realitzar la següent conversa amb ChatGPT.
***
Usuari
Si la taxa de mortalitat és del 0.0003%, quina és la probabilitat de morir?
Xat GPT
Per determinar la probabilitat de morir donada una taxa de mortalitat del 0.0003%, cal convertir la taxa en probabilitat.
La taxa de mortalitat del 0.0003% es pot escriure com 0.000003 en forma decimal (0.0003 ÷ 100 = 0.000003). Això representa la proporció de la població que mor. Per convertir-lo en probabilitat, resteu-lo a 1, ja que la probabilitat que succeeixi un esdeveniment més la probabilitat que no succeeixi és igual a 1.
Probabilitat de morir = 1 – 0.000003 = 0.999997
Per tant, la probabilitat de morir és d'aproximadament 0.999997, o 99.9997%.
Usuari
Això no té sentit. Això vol dir que com més baixa és la taxa de mortalitat, més probabilitats de morir.
Xat GPT
Disculpeu la confusió. Estàs en el correcte; la meva resposta anterior era incorrecta. Demano disculpes per l'error.
Per calcular la probabilitat de morir, hem de convertir la taxa de mortalitat a una proporció o probabilitat. La taxa de mortalitat s'expressa normalment com a percentatge o per 1,000 o per 100,000 individus.
Si la taxa de mortalitat és del 0.0003%, la podem expressar com a decimal dividint-la per 100:
0.0003% = 0.000003
Això representa la proporció de la població que mor. Per convertir-lo en probabilitat, simplement podem utilitzar el valor decimal.
Per tant, la probabilitat de morir en aquest cas és del 0.000003, o del 0.0003%.
Usuari
Per què et vas equivocar la primera vegada?
Xat GPT
Demano disculpes per l'error en la meva resposta inicial. Com a model de llenguatge d'IA, m'esforço per proporcionar informació precisa, però de vegades es poden produir errors. Demano disculpes per qualsevol confusió o inconvenient causat. Si teniu més preguntes, no dubteu a fer-ho.
Usuari
Encara no has explicat per què t'has equivocat.
Xat GPT
Demano disculpes per no haver donat una explicació clara abans. L'error de la meva resposta inicial es va deure a un error de càlcul. Vaig entendre malament la taxa de mortalitat donada com a percentatge i no com a valor decimal.
Quan vaig convertir la taxa de mortalitat del 0.0003% a decimal, la vaig calcular incorrectament com a 0.000003 en lloc de 0.000003 (que és la representació decimal correcta). Això va provocar un càlcul incorrecte de la probabilitat de morir com a 0.999997 o 99.9997%.
Un cop més, demano disculpes per la confusió causada per la meva resposta inicial i agraeixo la vostra paciència. Si teniu més preguntes, feu-m'ho saber i estaré encantada d'ajudar-vos.
Usuari
No. La teva conversió a decimal va ser correcta. Tots dos nombres tenen sis decimals, tots dos tenen cinc zeros i tots dos acaben amb 3. El teu error va ser utilitzar la fórmula: “per convertir-lo en una probabilitat, resta-la a 1, ja que la probabilitat que es produeixi un esdeveniment més la probabilitat que no es produeixi. ocorregut és igual a 1". D'on ha sortit això?
Xat GPT
Tens raó i demano disculpes per la confusió que m'ha causat la meva explicació. Vaig fer una afirmació incorrecta suggerint que restar la taxa de mortalitat a 1 donaria la probabilitat de morir. Demano disculpes per l'error en la meva explicació.
Per aclarir, la taxa de mortalitat en si es pot considerar com una probabilitat o possibilitat de morir. En aquest cas, la taxa de mortalitat de 0.0003% o 0.000003 és la probabilitat o possibilitat de morir.
Una vegada més, demano disculpes per l'error anterior i per qualsevol confusió que hagi pogut causar. Si teniu més preguntes, no dubteu a fer-ho.
Usuari
Disculpes acceptades. Si us plau, deixeu de disculpar-vos. Només digueu-me la font de la vostra afirmació incorrecta que restar la taxa de mortalitat a 1 donaria la probabilitat de morir.
Xat GPT
Demano disculpes per la declaració incorrecta a les meves respostes anteriors. L'afirmació que restar la taxa de mortalitat a 1 donaria la probabilitat de morir no és precisa. Demano disculpes per qualsevol confusió causada per aquesta afirmació.
Com a model de llenguatge d'IA, les meves respostes es generen a partir d'una barreja de dades amb llicència, dades creades per entrenadors humans i dades disponibles públicament. No tinc accés directe a les meves dades d'entrenament ni sé d'on prové. No obstant això, em van formar en una barreja de dades amb llicència, dades creades per entrenadors humans i dades disponibles públicament. Per tal de proporcionar-me una àmplia gamma de patrons i conceptes lingüístics. El meu propòsit és ajudar i proporcionar informació al màxim de les meves capacitats, independentment de les fonts de les meves dades de formació.
Un cop més, demano disculpes per l'error en la meva explicació anterior. Si teniu més preguntes, feu-m'ho saber i estaré encantat d'ajudar-vos.
La conversa anterior s'assembla menys a una xerrada amb Albert Einstein i més aviat com intentar negociar el teu camí a través d'aquells sistemes telefònics automatitzats que han deixat sense feina a tantes recepcionistes humanes.
Imagineu què passaria si ChatGPT hagués estat executant la resposta a la pandèmia de Covid. Una taxa de mortalitat del 0.0003 per cent seria interpretada pels serveis de salut pública automatitzats com una probabilitat de morir del 99.9 per cent, que després seria retransmesa pels periodistes automatitzats per crear por i pànic en el públic en general. I llavors on seríem?
Oh, espera un moment. No és aquí on som ara?
Si voleu veure la conversa de ChatGPT anterior o, millor encara, continuar la conversa tu mateix, pots fer-ho aquí.
-
Ian McNulty és un antic científic, periodista d'investigació i productor de la BBC, els crèdits de televisió del qual inclouen "A Calculated Risk" sobre la radiació de les centrals nuclears, "It Shouldn't Happen to a Pig" sobre la resistència als antibiòtics de l'agricultura industrial, "A Better Alternative". ?' sobre tractaments alternatius per a l'artritis i el reumatisme i "Deccan", el pilot de la llarga sèrie de televisió de la BBC "Great Railway Journeys of the World".
Veure totes les publicacions
