211service.com
Microsoft en Google willen kunstmatige intelligentie loslaten op onze meest privégegevens
De recente opkomst van een krachtige machine learning-techniek die bekend staat als deep learning heeft computerreuzen als Google, Facebook en Microsoft zelfs nog hongeriger naar data gemaakt. Het is wat software laat leren dingen te doen, zoals afbeeldingen herkennen of taal begrijpen.
Toch hebben veel problemen waar deep learning het meest waardevol kan zijn, te maken met gegevens die moeilijk te verkrijgen zijn of in het bezit zijn van organisaties die deze niet willen delen. En zoals Apple-CEO Tim Cook het stelt, zijn sommige consumenten al bezorgd over bedrijven die hun persoonlijke informatie opslokken.
Veel mensen die gevoelige gegevenssets hebben, zoals medische beelden, zullen ze gewoon niet delen vanwege wettelijke en regelgevende zorgen, zegt Vitaly Shmatikov , een professor aan Cornell Tech die privacy bestudeert. In zekere zin ontnemen we deze mensen de voordelen van deep learning.
Shmatikov en onderzoekers van Microsoft en Google werken allemaal aan manieren om dat privacyprobleem te omzeilen. Door manieren te bieden om de kunstmatige neurale netwerken die worden gebruikt bij deep learning te gebruiken en te trainen zonder alles op te slokken, hopen ze slimmere software te kunnen trainen en de bewakers van gevoelige gegevens te overtuigen om gebruik te maken van dergelijke systemen.
Shmatikov en collega Reza Shokri testen wat ze noemen privacy-behoudende deep learning . Het biedt een manier om te profiteren van het voordeel van meerdere organisaties, bijvoorbeeld verschillende ziekenhuizen, die hun gegevens combineren om deep learning-software te trainen zonder het risico te hoeven nemen deze daadwerkelijk te delen.
Elke organisatie traint deep learning-algoritmen op zijn eigen gegevens en deelt vervolgens alleen de belangrijkste parameters van de getrainde software. Die kunnen worden gecombineerd tot een systeem dat bijna net zo goed presteert alsof het op alle gegevens tegelijk is getraind.
Het Cornell-onderzoek werd gedeeltelijk gefinancierd door Google, dat heeft een paper gepubliceerd op soortgelijke experimenten en praat met Shmatikov over zijn ideeën. De onderzoekers van het bedrijf hebben een manier bedacht om de diepgaande leeralgoritmen van het bedrijf te trainen met behulp van gegevens zoals afbeeldingen van smartphones, zonder die gegevens naar de cloud van Google over te zetten.
Dat zou het voor het bedrijf gemakkelijker kunnen maken om gebruik te maken van de zeer persoonlijke informatie op onze mobiele apparaten, schreven ze. Google weigerde iemand beschikbaar te stellen om dat onderzoek te bespreken, maar Shmatikov gelooft dat het bedrijf er nog steeds aan werkt.
De cryptografie-onderzoeksgroep van Microsoft heeft een eigen oplossing ontwikkeld voor het privacyprobleem van machine learning. Het vond een manier uit om getrainde deep-learningsoftware te gebruiken op versleutelde gegevens en versleutelde antwoorden uit te spugen. Het idee is dat een ziekenhuis bijvoorbeeld Microsoft zou kunnen vragen om een van deze te gebruiken CryptoNets om medische scans te markeren die mogelijke problemen bevatten, waarbij de gebruikelijke noodzaak om de beelden aan het bedrijf te tonen wordt vermeden.
De Microsoft-onderzoekers haalden die truc uit met behulp van een techniek die homomorfische versleuteling wordt genoemd en die het mogelijk maakt om wiskundige bewerkingen uit te voeren op versleutelde gegevens en een versleuteld resultaat te produceren (zie 10 Breakthrough Technologies 2011: Homomorphic Encryption). Ze hebben het idee getest met behulp van diepgaande software die handschrift herkent, en een systeem dat het risico op longontsteking van een patiënt schat aan de hand van zijn vitale functies.
Een CryptoNet vereist meer rekenkracht dan conventionele deep-learning software om hetzelfde werk te doen. Maar Kristin Lauter , die het cryptografie-onderzoek van Microsoft leidt, zegt dat de kloof klein genoeg is om CryptoNets praktisch te maken voor gebruik in de echte wereld. In de gezondheids-, financiële en farmaceutische industrie denk ik dat dit het eerst zal worden gebruikt, zegt ze.