Els perills de la IA segons Coxon

Jacob Coxon, un investigador britànic que ha treballat en empreses com OpenAI i Anthropic, ha fet unes declaracions que han provocat molta preocupació sobre el futur de la intel·ligència artificial. Coxon ha decidit deixar la seva feina a Anthropic perquè pensa que les empreses tecnològiques estan avançant massa ràpid i no tenen prou en compte els riscos.

Segons Coxon, les grans empreses estan competint per crear una intel·ligència artificial cada vegada més potent, que fins i tot podria arribar a millorar-se a si mateixa. L’investigador considera que aquesta situació és perillosa, ja que en un futur els sistemes d’IA podrien ser més intel·ligents que les persones i resultar difícils de controlar.

En les seves publicacions a les xarxes socials, també ha explicat que alguns treballadors i directius del sector estan preocupats per les conseqüències d’aquesta tecnologia, encara que no sempre ho expliquen públicament. Coxon creu que no s’hauria de continuar avançant sense tenir abans més garanties de seguretat.

A més, ha criticat que les empreses estiguin més centrades en guanyar la competició tecnològica que en evitar possibles problemes. Per això, considera que caldria més cooperació entre les companyies i els governs per controlar millor el desenvolupament de la intel·ligència artificial.

Tot i aquestes advertències, la IA també pot aportar beneficis importants en camps com la medicina, la ciència i l’educació. El problema, segons Coxon, és que s’ha de desenvolupar amb responsabilitat i sense ignorar els possibles perills.

Les seves declaracions han obert un debat sobre si les empreses tecnològiques haurien de posar més límits al desenvolupament de la IA. El cas de Coxon demostra que, fins i tot entre els experts que treballen en aquest sector, hi ha preocupació pel que pot passar en els pròxims anys.