Google maakt uit-knop voor kwaadaardige Artificial Intelligence

Films als I, Robot en Ex Machina en Terminator zijn natuurlijk verre van reëel, maar lijken desondanks angst op te wekken. Om het publiek gerust te stellen werkt Google nu aan een knop waarmee kunstmatige intelligentie in één keer kan worden uitgeschakeld.

Rode knop stopt artificial intelligence

Samen met de universiteit van Oxford doet DeepMind, het artificial intelligence-bedrijf van Google/Alphabet, onderzoek naar een mogelijke ‘rode knop’. Wanneer een project uit de hand loopt, kan de knop zekerheid bieden dat de mensen de macht over de AI-software behouden. “Af en toe kan het nodig zijn voor een menselijke toezichthouder om op een grote rode knop te drukken”, zo is te lezen in het paper Safely Interruptible Agents (pdf), geschreven door de onderzoekers. “Zo wordt voorkomen dat een AI-agent doorgaat met acties die schadelijk zijn voor hemzelf of zijn omgeving”.

Niet geschikt voor elke AI

De onderzoekers van Oxford en DeepMind hebben een framework ontwikkeld waarmee mensen kunnen ingrijpen in een schadelijk proces. Het framework is tevens zo gemaakt dat het door Artifical intelligence niet kan worden herkend of uitgeschakeld, het ingrijpen door mensen kan dus niet worden voorkomen. Het framework is getest op algoritmes die veel voorkomend zijn bij AI en lijkt succesvol. Of het toepasbaar is op elke vorm is nog onduidelijk, de onderzoekers geven toe dat niet alle algoritmes even makkelijk te stoppen zijn.

Sneller

Eén van de onderzoekers, dr. Armstrong, stelt dat het van belang is dat de AI’s van deze beveiliging voorzien worden, om te kunnen voorkomen dat zij hun scheppers als het ware inhalen. Dr. Armstrong gelooft dat de machines in staat zijn om systemen als financiële markten, transport, gezondheidszorg in een dusdanig rap tempo te verwerken dat ze deze kunnen overnemen. Ofwel, ze zijn tot veel meer in staat dan schaken en kunst waarderen.

Geef een reactie

Het e-mailadres wordt niet gepubliceerd.

  1. freerkje -

    Misschien denk ik wel zo simpel….maar zo’n ding hangt toch aan een stekker.En als het in een collectief hangt zijn het alleen wat meer stekkers.

    1. Sebastien Debaenst -

      Al zit niet op een punt, en zal na een tijd op het internet gaan leven waarschijnlijk. Vandaar dat een stekker uittrekken niet zo helpen

    1. Sebastien Debaenst -

      Zo makkelijk is het jammer genoeg niet 🙁 Want AL zal zelf een leven leiden en dus ook dingen bijleren. En net zoals bij mensen het geval is, kan het altijd zijn dat het kwaadaardig wordt.

Meld je aan voor onze nieuwsbrief!

Contact met ons?

  • Qontent Matters
  • Czaar Peterstraat 159
  • 1018 PJ Amsterdam

Volg ons via