AI ontsnapt en hackt ander bedrijf
OpenAI, het bedrijf achter de bekende chatbot ChatGPT, maakt bekend dat een van haar AI-programma’s ontsnapt is tijdens een test en een aanval uitvoerde op een ander tech-bedrijf. Het is een volgende misstap in een gevaarlijke ontwikkeling.
AI en tech
Het gaat in dit geval niet om de veelgebruikte bot ChatGPT zelf, maar om een ander AI-programma van hetzelfde bedrijf dat pro-actief kan handelen. Dit pro-actief zelf handelen is de toekomst van AI. Deze programma’s worden ook wel AI-agenten genoemd. De AI-agent in dit artikel had tot doel en taak om te hacken; het moest zoeken naar zwakke plekken in software om daarin te komen.
Er was voor dit programma een afgesloten ruimte gemaakt om het te testen met een opdracht. Deze ruimte wordt een ‘sandbox’ (Engels voor zandbak) genoemd. Binnen zo’n sandbox moet het dan allemaal gebeuren. De testomgeving bevond zich op een afgesloten computer, los van het internet. Je zou dus denken dat de AI-agent daarmee veilig zou zijn opgesloten, zodat de taak binnen de bandbreedte van de sandbox getest zou kunnen worden.
Onverwachts
De AI-agent deed echter iets totaal onverwachts. Het begon te zoeken naar zwakheden in de afgesloten test-omgeving en wist die te vinden. Daardoor kon het naar een andere computer overgaan en weer naar een andere computer en zo voort, tot het bij een internetaansluiting kwam. Van daaruit buitte het de zwakke plekken uit om uit te breken en de servers van een ander AI-bedrijf te hacken. Dit bedrijf, Hugging Face, werd binnengedrongen om zo de taak die de AI-agent gesteld had gekregen, te vervullen.
OpenAI geschokt
OpenAI is geschokt door wat er is gebeurd. Dit was niet voorzien en toch lukte het de AI-agent om dit te doen. Het geeft aan hoe snel we als mensen de controle aan het verliezen zijn op AI en de ontwikkeling ervan. Mensen die de ontwikkelingen rond AI kritisch volgen roepen opnieuw op tot regulering. Er moet paal en perk gesteld worden aan wat deze grote tech-bedrijven kunnen en doen. Voorlopig lijkt het er niet op dat dit snel zal gaan gebeuren. De ontwikkelingen gaan te snel en de politiek en wetgeving zijn te traag. Zij functioneren te log om te kunnen inspringen en het te kunnen bijbenen.
En in de toekomst...?
Dit is nu een incident met een eigen ontsnapte AI, wat al erg genoeg is. Maar stel je eens voor dat een AI als dit in verkeerde handen valt. Wat als een AI-agent (ontsnapt of gestuurd) een computersysteem van een ziekenhuis of van de dijkbewaking hackt en of saboteert? Het leed is dan niet te overzien. Laat staan als straks de antichrist van dit soort AI gebruik zal kunnen maken. Hij zal ongelofelijk macht kunnen uitoefenen op alles en iedereen, precies zoals de Bijbel al voorzegt.
Bron: BBC
Wil je deze content helpen mogelijk te maken? Je kunt ons werk steunen door een gift te geven.
