In een open brief roepen experts op om het onderzoek naar geavanceerde artificiële intelligentie zes maanden te pauzeren om eerst meer regels op poten te zetten. De recente vooruitgang zou "ernstige risico's voor de samenleving inhouden". De brief verzamelde al meer dan 1.100 handtekeningen, van onder meer Twitterbaas Elon Musk, mede-oprichter van Apple Steve Wozniak en auteur Yuval Noah Harari.
"Systemen van artificiële intelligentie die concurreren met de intelligentie van de mens kunnen grote risico's inhouden voor de samenleving en de mensheid. Dat blijkt uit uitgebreid onderzoek."
Zo start de open brief van de non-profitorganisatie Future of Life Institute waarin de gevaren van artificiële intelligentie (AI) worden aangekaart. "Geavanceerde AI zou een ingrijpende verandering kunnen betekenen in de geschiedenis van het leven op aarde, en zou met de gepaste zorg en middelen moeten worden beheerd", gaat de brief verder.
"Helaas gebeurt dat niet, ook al zijn AI-laboratoria de afgelopen maanden verwikkeld geraakt in een uit de hand gelopen race om steeds krachtigere digitale breinen te ontwikkelen die niemand - zelfs hun makers niet - kan begrijpen, voorspellen of op een betrouwbare manier controleren."
1.125 handtekeningen
De open brief kan op dit moment al rekenen op de handtekening van 1.125 mensen, onder wie AI-experts en een paar van de grootste namen in de techwereld. Op de derde plek prijkt de naam van Twitter- en Teslabaas Elon Musk.
Opvallend genoeg was Musk een van de oprichters van OpenAI. Dat is een bedrijf dat onderzoek doet naar artificiële intelligentie en met de veelbesproken chatbot ChatGPT op de proppen kwam. De afgelopen maanden heeft Musk wel al vaker zijn bezorgdheden geuit over de technologie.
Verder op de lijst staan onder meer mede-oprichter van Apple Steve Wozniak, auteur en professor Yuval Noah Harari en mede-oprichter van Skype Jaan Tallinn.
Artificiële intelligentie zal een dramatische economische en politieke ontwrichting veroorzaken
Wat de ondertekenaars van de open brief betreft moet er een opschorting komen op de verdere ontwikkeling tot veiligheidssystemen zijn ingevoerd. Zo eisen ze nieuwe regelgevende instanties, toezicht op AI-systemen, technieken die helpen een onderscheid te maken tussen echte en artificiële content en instellingen die kunnen omgaan met de "dramatische economische en politieke ontwrichting (vooral van de democratie) die AI zal veroorzaken".
0 件のコメント:
コメントを投稿