Kunstmatige intelligentie dient de mens

4

Robots kwamen slechts zeer terzijde voorbij tijdens het (avond)congres AI Tech Event. Wel waren tegen de 350 mensen gekomen om te vernemen wat de stand van zaken is van kunstmatige intelligentie (AI) in de zorg, georganiseerd door Jong LUMC. Voor velen heeft AI iets weg van de Doos van Pandora, een kracht die zich, eenmaal losgelaten, niet laat beheersen. Zo’n beeld vráágt om doembeelden. Toch is de teneur van de sprekers een andere. Kunstmatige intelligentie als hulpmiddel voor de mens.

Ongelijkheid
Technologische ontwikkeling is een spannende wereld. Niet alleen omdat we vooraf niet goed weten waarheen de ontwikkelingen ons precies zullen leiden, maar vooral ook omdat technologie door mensen zelf is gemaakt. Ethica Martine de Vries maakte met name dat punt helder: in technologie is een normatief aspect ‘verborgen’. Niet dat het als zodanig wordt geprogrammeerd. Het is veel implicieter. En dan heb je het nog niet eens over de besluiten over inzet van technologie, die op hun beurt ook weer zo’n normatieve dimensie kennen. Haar waarschuwing was glashelder: technologie, algoritmen vergroten verschillen.

Kennis
De geschetste neiging van computerprogramma’s en -algoritmes om te werken met statistische verbanden leidt er ertoe dat vaak wordt gewerkt met gemiddelden, het ‘normale’. AI kan echter worden getraind, kan leren. Dat kan begeleid – een mens beoordeelt achteraf de juistheid van een beslissing en het algoritme leert een volgende keer weer iets juister te beslissen – en het kan zelflerend. Dat leidt tot de beruchte black box, waaruit wel een beslissing rolt maar geen uitleg van de weg daarnaartoe.

Intelligentie
Precies daar zit ‘m de kneep voor bijvoorbeeld artsen. Zij zijn en blijven de aansprakelijken zullen hun handelen dus moeten kunnen verantwoorden. Vandaar de interesse van bijvoorbeeld hoogleraar Aske Plaat voor “explainable AI”. Hij benadrukt dat de term ‘intelligentie’ bij mensen en computers iets volslagen anders is. De laatste ontbeert ten enen male bijvoorbeeld emotie, wil en bewustzijn “mijn kat heeft meer zelfbewustzijn dan een computer”. Dat lijkt geruststellend: computers ondersteunen, zijn goed in simpele taken “het herkennen van zaken. Dat is AI”, maar slecht in complexe. Het lijkt een semantisch, taalkundig detail: ze zíjn niet intelligent, maar ze “vertonen wel intelligent gedrág”.

Ondersteunend
Computers en AI blijken naar de mening van de deskundigen deze avond vooral geschikt als beslissingsondersteuners. Innovatiespecialist bij het LUMC Simone Cammel ziet dan ook geen directe reden om aan de slag te gaan met de ontwikkeling van nieuwe hardware of nieuwe software. “Aan de slag met wat we al beschikbaar hebben (aan data)”. Zij steekt vooral in op het oplossen van huidige problemen voor artsen en patiënten, bijvoorbeeld door de anamnese-gesprekken te ‘automatiseren’. Eenvoudiger gezegd dan gedaan, maar wel zoveel winst opleverend dat de aandacht ook daadwerkelijk meer kan uitgaan naar de patiënt en het gesprek. Text to speechsoftware ‘tikt’ de teskt uit, en AI haalt er de relevante informatie uit.

Snelheid
Het sluit allemaal mooi aan bij dat wat Rolesh Jankie van Google vertelde over de ontwikkeling bij Google Cloud over de ontwikkelingen daar. Het aardige is dat Google een aantal van die diensten deels beschikbaar stelt aan internetgebruikers om eraan te snuffelen (optie: try the API). Zijn verhaal ondersteunt het verschil mens- machine: het zijn de enorme hoeveelheden data – “in 2025 163 zetabytes” – en rekenkracht – “dé gamechanger” – die deze ontwikkelingen mogelijk maakten. Jammer genoeg blijft onduidelijk wat wij individuen aan data ter beschikking hebben in onze hersenen. Het maakt verder niet zo veel uit voor de indrukwekkendheid waarmee momenteel kan worden gewerkt aan het herkennen en classificeren van beelden en ongestructureerde teksten. De arts kan dus ‘gewoon’ een verhaal uittikken en de computer haalt de relevante informatie eruit. Of de afwijkende delen van een scan worden door de computer er razendsnel uitgehaald en gepresenteerd voor besluitvorming.

Maakbaarheid
Dat AI steeds gewoner zal worden en dat we over een paar jaar mogelijk niet eens meer stilstaan bij de aanwezigheid ervan, is iets waar weinigen aan twijfelen. Zeker met voorgaande stellingen over bijvoorbeeld ongelijkheid roept het echter allemaal ook de vraag op wat we nu vertrouwen. Daar sloot de afsluitende presentatie van documentairemaker/fotograaf/arts Ruben Terlou over China mooi op aan. Daaruit bleek dat inzet en gebruik van AI inderdaad niet waardevrij is, maar samenhangt met normen en waarden in een samenleving. China is een samenleving waarin de groep, het collectief domineert en andere normen en waarden gelden dan hier. Hij stelt dat in China “het vertrouwen in de overheid enorm is, en groeiende”. De Communistische Partij echter ziet, stalinistisch, “artists as engineers of the soul”.

Toekomst
Maakbaarheid als centraal idee in de samenleving. Ethiek is daaraan ondergeschikt, privacy ook. Terlou pleit ervoor China niet te bezien met een westerse blik, maar vooral ook te pogen een oosterse blik te hanteren. Begrijpen wat daar gebeurt, is zinvoller dan veroordelen. Frappant zijn echter de laatste zinnen, in gesprek met de zaal, waaruit blijkt dat ook in China jongeren andere wensen en verwachtingen lijken te hebben dan voorgaande generaties; onder invloed van de in China razendsnelle opmars van mobiele apparaten “ze hebben daar meer (mogelijkheden, JvdS) op hun telefoon dan wij hier”. Dat worden dus interessante jaren met de vraag óf, wíe en wát de technologie zal disciplineren, of bevrijden.

Delen
heropening sligro Leiden

4 reacties

  1. “Het aardige is dat Google…”
    Er is niets aardigs aan Google & Co.. Het is een onverzadigbare dataslurper, net als andere dataslurpers, zoals Amazon, Facebook, & Co. Persoonlijke data zijn de valuta waarmee de naïeve gebruikers betalen voor “gratis” diensten, zonder dat ze weten wat er precies met welke persoonlijke gegevens gebeurt en wie ze allemaal krijgen. Zelfs veel gegevens van wie geen gebruik maken van de “diensten” van deze bedrijven zijn niet veilig. En door de data slurpende “dienstverleners” wordt in toenemende mate samengewerkt met inlichtingendiensten. Zo worden surveillancesystemen van overheden sluipenderwijs steeds verder geïntegreerd met de surveillancesystemen van de ‘Big Tech’-sector. In combinatie met het gebruik van AI kan dit leiden tot een “heerlijke nieuwe wereld” met surveillancenetwerken en algoritmen die het denken en handelen van burgers steeds meer zullen sturen in een door economische en politieke machthebbers gewenste richting. China is verder op weg er naar toe, maar in het zogenaamde vrije westen slaapwandelen we ook de verkeerde kant op.
    Zie over dit onderwerp bijvoorbeeld dit recente, tamelijk lange artikel (zeer de tijd en moeite waard):
    .
    http://www.wired.com/story/is-big-tech-merging-with-big-brother-kinda-looks-like-it
    .

    • Ik denk dat jouw angst hier in Europa ongegrond is, De vraagstukken mbt tot AI in Europa zijn stukken complexer dan bv in de USA of Azie. Hier kijkt men eerst naar de sociale, juridische en ethische vraagstukken die AI op mensen veroorzaken kan en zal, voor men ze daadwerkelijk inzet. De Europese samenleving is niet vergelijkbaar met een USA of Azie. Ik ben zelf werkzaam in deze wereld en kan je het een en ander duidelijk maken: Wereldwijd zijn er misschien 4000 “echte” AI experts, de rest van die 100.000 de zichzelf noemende “experts” kunnen het woord Artificial Intelligence foutloos schrijven en wat pielen in Phyton (een AI programeer taal). Van die 4000 experts komt 80% uit Europa! Amerika koopt hier mensen in (ze hebben ze zelf niet) en de Chinezen copieren er lustig op los. (vraagstuk, waarom lopen er zoveel Chinese AI studenten rond op Europese universiteiten.) Qua AI ontwikkelaars zitten wij hier in Europa dus goed, we moeten er alleen voor zorgen dat we deze mensen behouden en zorgen dat onze kennis niet gestolen wordt door landen die een broertje dood hebben aan ethiek.
      Wie de beste AI programmas ontwikkeld zal binnen 10 jaar de baas over de wereld zijn, dat is iets dat de politiek in Europa nu langzaam begint te begrijpen.
      Wat is AI, AI is niets meer dan een rekenkundige reeks die tussen de 10 A4tjes en 1000 A4tjes groot is. Er zijn zelf lerende AI algoritmen en begeleidt lerende AI algoritmen, beide met een specifiek doel.
      Voorlopig zal AI op kleine schaal ingezet worden maar zal in de toekomst (+20 jaar) alle doe beroepen vervangen. Machines maken geen fouten maken en werken precieser en foutlozer.
      Doe beroepen zijn; artsen, advocaten, bouwvakkers,piloten, tandartsen eigenlijk alles waar nu nog mensen hun handjes moeten laten wapperen en een boterham verdienen.De overheid zal met 2% van de mensen die nu nodig is om de boel draaiende te houden dezelfde taken kunnen doen. De vraag die komen gaat, wat gaan we doen met die al mensen die opeens thuis duimen aant draaien zijn?
      De angst dat AI onze leventjes binnen 10 jaar zal omgooien is totaal ongegrond, De rekencapaciteit die bv nodig zal zijn om iets simpels als spraakherkenning en directe vertaling te doen op een android telefoon kost zo veel aan computercapaciteit en stroomverzorgen dat geen bedrijf dit ooit kan betalen. Google zou om dat mogelijk te maken al haar rekkencentra moeten verdubbelen en dan ongeveer 50% van alle wereldwijd geproduceerde stroom nodig hebben om dat te laten werken. Enig idee wat een 25.000 m2 rekencentrum kost? Een rekencentrum van die grote trekt net zo veel stroom als de gehele Leidse regio (400.000 mensen). Het geld om al deze electriciteit centrales en rekencentra te bouwen is er gewoonweg niet.
      Google, Apple, Microsoft, Amazon willen graag marktleider zijn in AI, de grote vraag is, “gezien het kennis verschil tussen Europa en de USA”, gaan ze dat in de toekomst daadwerkelijk blijven. De slimme wiskundige AI jongens en meisjes! kiezen voor andere opties dan werken voor een kolos, die zijn niet vangbaar voor grote ondernemingen waar ze als grijze muis in een kooitje gestopt worden. De verwachting is dat de Amerkaanse high tech hegonomie snel zal verdampen. De ontwikkelingen binnen Europese AI start-ups gaan razend snel, we moeten er alleen voor zorgen dat we deze kennis behouden.
      Biometrische AI (big brother) zal hier niet snel gebeuren, wij hebben hier gelukkig wetgeving (GDPR) en denken na over ethiek en de sociale gevolgen voor de maatschappij.
      Qua biometrische AI lopen de Chinesen 5 jaar achter op de Europeaanse ontwikkelingen, hier in Europaj moeten wij er alleen zorgen dat onze ontwikkelingen niet in die handen komt. Ik hoop dat de Europese politiek eens Chinees gaat doen en het Chinese model copieert (heel veel centjes pompen in educatie en de ontwikkeling van AI oplossingen en zorgen dat het HIER blijft)

  2. @JanW. Het is niet netjes om realistische en beargumenteerde zorgen over zowel bestaande als te verwachten ontwikkelingen als angst te framen.
    Het verschil tussen Europa of een aantal Europese landen en de VS is kleiner dan u blijkbaar denkt. Heel veel of vrijwel alles uit de VS komt uiteindelijk ook onze kant op. Daarnaast is het huidige politieke en maatschappelijke klimaat in een land geen garantie voor de toekomst. Bovendien hebben ook nu al sommige politieke partijen of politici in Europa weinig op met vergaande burgerrechten en burgerlijke vrijheden, privacybescherming e.d., al dan niet met “veiligheid vóór vrijheid” als excuus.
    .
    Mijn reactie en het uitvoerige artikel uit Wired hebben trouwens betrekking op samenwerking tussen, of vervlechting van, een aantal commerciële dataslurpende (= persoonlijke informatie verzamelende) bedrijven (Google, Facebook, Amazon enz.) en inlichtingen- en veiligheidsdiensten en daarmee ook de machthebbers. Dergelijke ontwikkelingen vinden geleidelijk plaats. Ze worden vaak niet of te laat opgemerkt door degenen die de belangen en vrijheden van burgers moeten waarborgen, vandaar het ‘slaapwandelen’. Daarbij komt dat bestuurders, beleidsambtenaren en volksvertegenwoordigers, een ook de meeste journalisten, nauwelijks of niet weten waar het precies over gaat. Ze hebben er geen verstand van (waarbij mij het bijna iconische beeld van premier Kok te binnen schiet, die dacht dat een computermuis een afstandsbediening was). Maar het gaat niet uitsluitend over de technologie ‘an sich’ maar vooral over het (mogelijke) gebruik en misbruik ervan.
    Ik zou zeggen lees het uitvoerige Wired-artikel zeer aandachtig. Dan hoef ik er niet uitgebreid uit te citeren. Wired is een nieuwsmedium met als onderwerp technologie en hoe die de samenleving beïnvloedt. Het is geen sensatieblad.

    • Beste Fritz2019, Ik las het verhaal van een leek in en probeerde je van je angst af te helpen. Er doen vele indianen verhalen de ronde over de gevaren van AI maar die zijn vergelijkbaar zijn met de verhalen over de gevaren van eerste stoomtrein. Angst is nog steeds een slecht raadgever.

      Je haalt in je stuk 2 totaal verschillende vakgebieden door elkaar, Big data (het verzamelen van gegevens) en kunstmatige Intelligentie (zelf beslissende systemen). Deze hebben niets met elkaar van doen.
      Het is mogelijk om AI in te zetten in big data om gegevens naar boven te halen die je anders gewoonweg niet zult vinden. Denk aan iets onschuldigs als het ontwikkelen van medicijnen tegen kanker en alzheimer. Oplossingen die anders nooit gevonden zouden kunnen worden.

      Daarnaast kan het door inlichtingendiensten en politie gebruikt worden om bijvoorbeeld mensen te koppelen aan ongewenst crimineel gedrag. De Nederlandse belastingdienst gebruikt simpele algoritmen om bijvoorbeeld BTW carrousel fraude op te sporen. Door dat algoritme wordt 98,7% van de gevallen direkt ontdekt. Hier kan je niets op tegen hebben lijkt me?

      Het wired artikel is gebaseerd op iets dat plaastvond begin jaren 90 (google maar eens op isreal en afluisteren van Nato veiligheids diensten) Oud nieuws dat op een spectaculaire wijze herschreven is (ook Wired leeft van pagina views en clicks, net als panorama, joop (oh nee belastingeld) en vele anderen).
      Iedereen vezameld data, van de kruidenier tot aan de overheden en mensen werken hier graag (ook jij) aan mee. Of ben jij een van die 0,001% van de internetters die ontraceerbaar is, geen microsoft gebruikt (linux dus), betalingen alleen contant doet en geen mobiele telefoon heeft?

      Waar je een punt hebt is dat we de huidige machthebbers kunnen vertrouwen, we weten dat deze zich aan de wetten zulllen houden en kunnen ze indien nodig terug fluiten. Mochten de groenen, communisten, geloofsgekkies of rechts extremisten deze AI technologie in handen krijgen en gaan toepassen, ja dan hebben wij met zijn allen een mega probleem. Maar hoe groot is die kans van machtsovername door extremisten binnen Europa?

      De samenwerkingingen op AI gebied tussen Europa en USA-China zijn te verwaarlozen, de Amerikanen kopen alle knappe koppen op (uurtarieven tussen de $500 tot $ 1000 per uur zijn heel normaal) worden binnen de AI wereld gezien als marketeers zonder enige vakkennis en de Aziaten (China, Korea en India) coopieren er vrolijk op los.
      De big data wordt tussen bevriende landen tot op bepaalde hoogte gedeeld, maar iedere natie gebruikt zijn eigen AI algoritmen om deze te doorgronden.

      De Europese politiek zit niet stil, een groep politici (vooral veel vrouwen!) is zeer actief om AI in de juiste juridische, sociale en ethische vormen te gieten. Ik werk daar hard aan mee en weet zeker dat wij hier in Europa op de juiste weg zijn.

      Het echte gevaar hier in Europa is niet; komt deze technolgie in verkeerde handen dan hebben we een probleem maar meer wat moeten we met al die mensen die een doe beroep hebben die dan niet meer nodig zijn.

      Laat je niet gek maken door thriller auteurs van Wired zonder verstand van zaken. Marketing snappen ze, that’s all.

Over de auteur

Jan van der Sluis

Schraapt het liefst aan de oppervlakte in de verwachting dat daaronder iets echt leuks is te vinden.

Je bent nu offline