211service.com
AI-onderzoekers willen AI op dezelfde manier bestuderen als sociale wetenschappers mensen bestuderen
Een conceptuele illustratie van een onderzoeker die AI . bestudeert Tsjisse Talsma
Er is veel inkt gevloeid over het black-boxkarakter van AI-systemen - en hoe het ons ongemakkelijk maakt dat we vaak niet begrijpen waarom ze de beslissingen nemen die ze nemen. Nu algoritmen zijn gekomen om alles te bemiddelen, van onze sociale en culturele tot economische en politieke interacties, hebben computerwetenschappers geprobeerd te reageren op de toenemende vraag naar hun verklaarbaarheid door technische methoden te ontwikkelen om hun gedrag te begrijpen.
Maar een groep onderzoekers uit de academische wereld en de industrie beweert nu dat we deze zwarte dozen niet hoeven te doorbreken om hun effect op ons leven te begrijpen en dus te beheersen. Dit zijn tenslotte niet de eerste ondoorgrondelijke zwarte dozen die we tegenkomen.
We hebben al honderden jaren wetenschappelijke methoden ontwikkeld om zwarte dozen te bestuderen, maar deze methoden zijn tot nu toe voornamelijk toegepast op [levende wezens], zegt Nick Obradovich, een MIT Media Lab-onderzoeker en co-auteur van een nieuw papier vorige week gepubliceerd in Natuur . We kunnen veel van dezelfde tools gebruiken om de nieuwe black box AI-systemen te bestuderen.
De auteurs van het artikel, een diverse groep onderzoekers uit de industrie en de academische wereld, stellen voor om een nieuwe academische discipline te creëren die machinegedrag wordt genoemd. Het benadert het bestuderen van AI-systemen op dezelfde manier waarop we dieren en mensen altijd hebben bestudeerd: door empirische observatie en experimenten.
Op deze manier is een machine-gedragstherapeut voor een computerwetenschapper wat een sociale wetenschapper is voor een neurowetenschapper. De eerste probeert te begrijpen hoe een agens - of het nu kunstmatig of biologisch is - zich gedraagt in zijn habitat, wanneer hij in groepen naast elkaar bestaat en wanneer hij in wisselwerking staat met andere intelligente agenten. De laatste probeert de besluitvormingsmechanismen achter dat gedrag te ontleden.
We zien de opkomst van machines met keuzevrijheid, machines die actoren zijn die autonoom beslissingen nemen en acties ondernemen, zei Iyad Rahwan, een andere Media Lab-onderzoeker en hoofdauteur van de krant, in een blogpost bij de publicatie horen. Ze moeten dus worden bestudeerd als een nieuwe klasse van actoren met hun eigen gedragspatronen en ecologie.
Dit wil niet zeggen dat AI-systemen een soort van vrije wil hebben ontwikkeld. (Zeker niet; het zijn slechts veredelde wiskundige modellen.) Maar het is bedoeld om af te stappen van het zien van AI-systemen als passieve hulpmiddelen die puur kunnen worden beoordeeld op basis van hun technische architectuur, prestaties en mogelijkheden. Ze moeten in plaats daarvan worden beschouwd als actieve actoren die hun omgeving en de mensen en machines om hen heen veranderen en beïnvloeden.
Dus, hoe zou dit eruit zien? Een machinegedragsdeskundige zou bijvoorbeeld de impact van stemassistenten op de persoonlijkheidsontwikkeling van een kind kunnen onderzoeken. Of ze kunnen onderzoeken hoe online datingalgoritmen de manier hebben veranderd waarop mensen elkaar ontmoeten en verliefd worden. Uiteindelijk zouden ze de opkomende eigenschappen bestuderen die ontstaan doordat veel mensen en machines naast elkaar bestaan en samenwerken.
We zijn allemaal één gigantisch mens-machine-systeem, zegt Obradovich. We moeten dat erkennen en het op die manier gaan bestuderen.
Het is belangrijk op te merken dat de meeste van deze ideeën niet nieuw zijn. Robotici hebben bijvoorbeeld lang de interactie tussen mens en computer bestudeerd. En het veld van wetenschap, technologie en samenleving heeft wat bekend staat als de actor-netwerktheorie, een raamwerk om alles in de sociale en natuurlijke wereld - zowel mensen als algoritmen - te beschrijven als actoren die op de een of andere manier met elkaar in verband staan. Maar voor het grootste deel zijn al deze inspanningen opgesloten in afzonderlijke disciplines. Door ze onder één paraplu samen te brengen, kunnen hun doelen op één lijn worden gebracht, een gemeenschappelijke taal worden geformaliseerd en interdisciplinaire samenwerkingen worden bevorderd. Het zal ons helpen elkaar te vinden, zegt Obradovich.
Ondanks dat ze zich in een andere discipline bevinden dan AI-onderzoekers, zouden machine-gedragsdeskundigen nog steeds nauw met hen moeten samenwerken. Terwijl laatstgenoemden nieuwe manieren ontdekken waarop AI-systemen zich gedragen en mensen beïnvloeden, kunnen de eerstgenoemden die lessen toepassen op de ontwerpen van het systeem. Hoe meer elke discipline kan profiteren van de expertise van de ander, hoe meer ze ervoor kunnen zorgen dat kunstmatige middelen de mens ten goede komen in plaats van schaden.
We hebben de expertise nodig van wetenschappers uit alle gedrags- en computationele disciplines, zegt Obradovich. Uitzoeken hoe te leven met machines is een probleem dat te groot is om door één discipline alleen op te lossen.