Deze week heb ik twee dingen die geen heel artikel rechtvaardigen: een uitleg waarom TidBITS-leden die Apple Pay gebruiken onjuiste vervaldata voor creditcards kunnen zien en het nieuws van Apple Music Sing, dat me met vrees vervult.

Apple Pay-transacties krijgen vreemde vervaldata

Onze support-held, Lauri Reinhardt, heeft onlangs een klein mysterie opgelost dat enkele TidBITS-leden in verwarring had gebracht. Wanneer mensen die Apple Pay hadden gebruikt voor hun TidBITS-lidmaatschap een e-mail van ons systeem ontvingen over een mislukte betaling, was de vermelde vervaldatum van de creditcard onjuist. Aangezien een van de meest waarschijnlijke redenen voor een mislukte betaling een verlopen kaart is, zorgde de onjuiste datum voor enige consternatie.

Lauri ontdekte dat Stripe, onze betalingsverwerker, de vervaldatum van de eigenlijke kaart niet herkent in de tokens die Apple Pay genereert. In plaats daarvan toont Stripe (en de plug-in Paid Memberships Pro die we gebruiken om TidBITS-accounts te beheren) een schijnbaar willekeurige vervaldatum van de kaart. Het probleem is puur cosmetisch en blokkeert op geen enkele manier transacties.

In de praktijk betekent dit dat je je, als je Apple Pay hebt gebruikt om je TidBITS-lidmaatschap te betalen en je een onjuiste vervaldatum ziet bij je kaartgegevens in je accountinformatie, geen zorgen hoeft te maken, tenzij je ook een melding krijgt dat een transactie is mislukt. Probeer in dat geval een andere kaart of neem contact op met Lauri op [email protected] zodat zij je kan helpen uitzoeken wat je moet doen. Mijn excuses voor de verwarring, en bedankt dat je TidBITS steunt!

Deze datum-gekkigheid is het eerste nadeel van het gebruik van Apple Pay in plaats van een gewone creditcardtransactie dat ik heb gezien. In alle andere opzichten is de codering van creditcardgegevens door Apple Pay een goede zaak, omdat het de veiligheid aanzienlijk verhoogt.

Apple Music voegt Karaoke toe

Weinig vervult mij als niet-muzikaal persoon met meer angst dan karaoke. Dichter dan met een groepsuitvoering van "Lang zal die leven" kom ik niet bij zingen. Gelukkig heb ik me nog nooit in een situatie bevonden waar karaoke plaatsvond, laat staan waar ik geacht werd op te treden. Ik hoop dat dat zo blijft.

Je kan je dus wel voorstellen hoe enthousiast ik ben over Apple Music Sing, een nieuwe functie waarmee Apple Music-abonnees kunnen meezingen met "tientallen miljoenen van 's werelds meest zingbare nummers". Ik weet zeker dat veel mensen Apple Music Sing leuk zullen vinden als het later deze maand beschikbaar komt en als jij daarbij hoort, hoop ik dat je er veel plezier aan beleeft. Ik blijf het zingen overlaten aan de professionals.

Vorige week bracht Apple iOS 16.1.2 uit om de compatibiliteit te verbeteren met providers en de Ongelukdetectie van de iPhone 14-serie te verbeteren. (Misschien wordt die niet langer in amusementsparken geactiveerd. Zie “Achtbaan kan ongelukdetectie op de iPhone 14 en Apple Watch activeren”, 10 oktober 2022.) De update bevat verder veiligheidsoplossingen die Apple belooft binnenkort te documenteren, mocht je behoefte hebben aan wat lichte leesstof.

Moet je de upgrade installeren? Ik kan geen reden bedenken om dat niet te doen, zeker niet als je van plan bent om je telefoon binnenkort in een auto te gebruiken.

Er zijn geen andere besturingssystemen van Apple bijgewerkt, hoewel ik me afvraag of de volgende update van watchOS 9 ook de verbeteringen voor de valdetectie zal bevatten.

(In de oorspronkelijke versie van dit artikel vroeg ik of lezers dit soort informatie waardevol vonden, zelfs wanneer Apple alle gebruikers op de hoogte stelt van de update en ik niet meer weet dan wat Apple publiceert in de toelichting. De resultaten van dat onderzoekje waren sterk in het voordeel van doorgaan, dus ik zal me aan het motto 'keep calm and carry on' houden.)

Gebruik je Microsoft Office onder macOS 10.15 Catalina, dan is hier nog een reden, naast het mislopen van beveiligingsupdates van Apple, om op niet al te lange termijn te upgraden. Microsoft heeft laten weten dat het productiviteitspakket van het bedrijf voortaan alleen nog updates krijgt als je Mac minimaal macOS 11 Big Sur draait. Dat geldt voor Office for Mac 2019, Office for Mac 2021, en Microsoft 365. (Zie “Microsoft hernoemt Office naar Microsoft 365”, 17 oktober 2022.) macOS 12 Monterey en macOS 13 Ventura worden volledig ondersteund.

De update van oktober 2022 (16.66) was de laatste versie van Word, Excel, PowerPoint, Outlook en OneNote voor gebruikers die nog onder Catalina werken. Als je Catalina blijft gebruiken betekent dat dat je Office-toepassingen gewoon blijven werken, maar geen verbeteringen, bugfixes en beveiligingsupdates meer krijgen. Op zeker moment kan dat problemen geven.

Upgraden gaat nooit vanzelf, ik weet er alles van, maar het is tegenwoordig een noodzakelijk kwaad. Een aantal details in het upgrade-achtergronddocument “Waarom je moet upgraden (op je eigen voorwaarden)” (4 september 2015) mogen achterhaald lijken, maar de belangrijkste punten zijn nog even actueel als zeven jaar geleden.

Critici van clouddiensten wijzen vaak met opgeheven vinger op het feit dat gegevens die in de cloud worden opgeslagen theoretisch gestolen kunnen worden door criminelen en aan overheden gegeven kunnen worden als die er om vragen. Dat is zelfs waar als de gegevens versleuteld zijn tijdens het verplaatsen tussen apparaten en wanneer de gegevens op servers van bedrijven zijn, als dat bedrijf over de sleutel beschikt waarmee de gegevens ontsleuteld kunnen worden.

De oplossing is eenvoudig - sta toe dat de gebruiker de sleutels genereert en beheert. Deze techniek heet end-to-end versleutelde gegevens. In dat geval kunnen de gegevens alleen door de gebruiker gelezen worden. De risico's zijn daardoor flink beperkt. Er rust nog wel steeds verantwoordelijkheid bij de gebruiker om de sleutels te bewaren en beschermen, want als je de sleutel kwijtraakt zijn de gegevens verloren. En ja, dat gebeurt, net zoals mensen de sleutel voor hun portemonnee met cryptomunten kwijtraken.

Apple biedt al langere tijd end-to-end versleutelde gegevens voor 14 van de 26 soorten iCloud gegevens, inclusief de gegevens van de Gezondheid-app, wachtwoorden en de sleutelhanger, transacties op de Apple Card en meer. Je weet misschien niet dat je de sleutels hebt voor deze gegevens omdat Apple ze geïntegreerd heeft in de veiligheidsstructuur van je apparaten, online diensten en hun besturingssystemen. Daarom is het zo belangrijk dat je het wachtwoord voor je iPhone, iPad en Mac onthoudt.

Maar voor de twaalf overblijvende soorten iCloud-gegevens — iCloud Mail, Contacten, Agenda, iCloud-reservekopie, iCloud Drive, Foto's, Notities, Herinneringen, bladwijzers van Safari, Siri Opdrachten, Dictafoon-bestanden en Wallet-kaarten — slaat Apple de sleutel op in de zg. Hardware Security Modules in de datacenters van het bedrijf.

In het geval van iCloud Mail, Contacten en Agenda zorgt de noodzaak van het samenwerken met andere systemen voor e-mail, contacten en agenda's ervoor dat Apple de sleutels beheert. Voor de andere negen stelt het beheer van de sleutels Apple in staat om data terug te halen voor gebruikers die hun wachtwoorden kwijtgeraakt zijn en niet meer bij hun gegevens kunnen (in zo'n geval zijn de gegevens die door end-to-end versleutelde gegevens beschermd zijn verloren). Maar dat betekent natuurlijk ook dat de gegevens in principe gekaapt kunnen worden door hackers en overheid. iCloud-reservekopie, dat ook de sleutel bevat voor de in principe met end-to-end–versleuteling beschermde Berichten en Foto's, zijn de belangrijkste gegevens om je zorgen over te maken.

Binnenkort zal er wat verlichting komen voor diegenen die zich er zorgen over maken dat Apple hun sleutels bewaart.

De entree van 'Geavanceerde gegevensbescherming'

Apple heeft Geavanceerde gegevensbescherming voor iCloud aangekondigd, een belangrijke upgrade voor de veiligheid van iCloud met end-to-end versleutelde gegevens voor de negen soorten data die ik eerder genoemd heb. Geavanceerde gegevensbescherming is optioneel — je moet het expliciet aanzetten - omdat het voorkomt dat Apple je gegevens kan herstellen. Dat lijkt een redelijk offer omdat de mensen waarvan het het meest waarschijnlijk is dat ze hun wachtwoorden vergeten en daarvoor hulp van Apple nodig zijn waarschijnlijk minder moeite hebben met hackers of bemoeienis van de overheid.

Als je Geavanceerde gegevensbescherming instelt word je gevraagd om alternatieve methodes voor het terughalen van je gegevens in te stellen, zoals een contactpersoon met die bevoegdheden of een afgedrukte herstelsleutel, en je moet daar tenminste een van kiezen. Apple gaat het je niet makkelijk maken om je gegevens kwijt te raken.

Gelukkig is het geen eenrichtingsverkeer. Als je ooit besluit dat je liever de herstelhulp van Apple hebt dan end-to-end versleuteling van zaken als iCloud-reservekopie kun je Geavanceerde gegevensbescherming uitschakelen zonder gegevensverlies.

Er zijn verschillende technische gevolgen verbonden aan het inschakelen van Geavanceerde gegevensbescherming, behalve dat iCloud Mail, Contacten en Agenda's niet worden beschermd:

• iCloud.com web-toegang: als je Geavanceerde gegevensbescherming inschakelt, wordt de webtoegang tot gegevens op iCloud.com automatisch uitgeschakeld omdat de sleutels van Apple ongeldig zijn gemaakt. Je kan de webtoegang weer inschakelen met een vertrouwd apparaat maar voor elk bezoek aan iCloud.com is toestemming nodig van een vertrouwd apparaat en de verbinding geeft alleen normaal toegankelijke iCloud.com-gegevens door (bijvoorbeeld geen Gezondheid) en slechts gedurende een uur. Als je veel gebruik maakt van iCloud.com, kan Geavanceerde gegevensbescherming lastig zijn.
• Delen van gegevens: als je notities, herinneringen en iCloud Drive-mappen deelt of gebruikmaakt van de gedeelde iCloud-fotobibliotheek, blijven alle gegevens end-to-end versleuteld en alleen beschikbaar op de apparaten van de deelnemers, zolang alle bij het delen betrokken gebruikers Geavanceerde gegevensbescherming hebben ingeschakeld. Delen met iemand die geen Geavanceerde gegevensbescherming gebruikt of de optie "iedereen met een link" gebruiken bij het delen, maakt de inhoud beschikbaar voor Apple servers met door Apple gecontroleerde sleutels.
• Samenwerking: de samenwerkingsmogelijkheden van iWork en de functie Gedeelde albums van Foto's ondersteunen geen geavanceerde gegevensbescherming. De real-time samenwerking in iWork vereist server-side bemiddeling om documentwijzigingen te coördineren. Aangezien gedeelde albums openbaar kunnen worden gedeeld op het web, moet Apple ook sleutels voor die gegevens beheren.
• Apps van derden: ontwikkelaars wier apps gegevens delen via iCloud moeten CloudKit-velden markeren als versleuteld om ze te laten beschermen door ‘Geavanceerde gegevensbescherming’ en het beschermt automatisch alle CloudKit-activa.
• Metadata: Omwille van de iCloud-interface en -optimalisatie behoudt Apple de sleutels voor sommige metadata die verband houden met iCloud-gegevenstypes die anders worden beschermd door Geavanceerde gegevensbescherming. Dat omvat bijvoorbeeld de naam, het model, de kleur en het serienummer van het apparaat dat bij elke back-up hoort en een lijst met apps en bestandsformaten die in de back-up zijn opgenomen. Apple zegt eraan te werken om meer metadata op te nemen in Geavanceerde gegevensbescherming.

Vereisten en timing voor geavanceerde gegevensbescherming

Om Geavanceerde gegevensbescherming in te schakelen, moet voor je account twee-factor-authenticatie zijn ingeschakeld voor je Apple ID en een toegangscode of wachtwoord zijn ingesteld op je apparaten. Apple zegt dat meer dan 95% van de actieve iCloud-accounts twee-factor-authenticatie gebruiken. (En als je om onbegrijpelijke redenen geen toegangscode op je iPhone hebt, stel er dan onmiddellijk een in. Ja, Alex, jij ook.)

Een groter probleem is de vereiste van Geavanceerde gegevensbescherming dat alle apparaten waarop je bent aangemeld met je Apple ID moeten zijn bijgewerkt tot iOS 16.2, iPadOS 16.2, macOS 13.1, tvOS 16.2, watchOS 9.2 of de nieuwste versie van iCloud voor Windows. Dat komt omdat oudere versies niet zouden weten om nieuw gemaakte sleutels op het apparaat te behouden en zouden proberen ze te uploaden naar de servers van Apple in wat ze "een misplaatste poging om de accountstatus te herstellen" noemen. Dit betekent dat je je moet afmelden bij iCloud op elk apparaat dat te oud is om te upgraden naar de vereiste versie van het besturingssysteem. (Deze vereiste kan een deal-breaker voor mij zijn, aangezien ik tal van oudere apparaten heb die nog enigszins in gebruik zijn.)

Verrassend genoeg is Geavanceerde gegevensbescherming alleen beschikbaar voor gewone Apple ID's. Beheerde Apple ID's (voor werknemers om te gebruiken voor zakelijke doeleinden of docenten en studenten om te gebruiken voor onderwijsdoeleinden) en kinderaccounts kunnen de functie niet inschakelen.

Apple zegt dat Geavanceerde gegevensbescherming voor iCloud nu beschikbaar is voor mensen die een beta van een besturingssysteem van Apple testen en eind 2022 beschikbaar zal zijn voor alle Amerikaanse gebruikers. Begin 2023 wordt het uitgerold naar gebruikers in de rest van de wereld en mogelijk eind 2023 is het wereldwijd beschikbaar.

Downstream-effecten van Geavanceerde gegevensbescherming

In een interview met Joanna Stern van de Wall Street Journal, zei Craig Federighi van Apple dat bij de wereldwijde release ook China zou zitten, en hij had nog geen klachten gehoord van de Chinese overheid, die doorgaans niet blij is met technologie die staatstoezicht voorkomt. Het lijkt niet onmogelijk dat China heeft toegestaan dat Apple Geavanceerde gegevensbescherming gebruikt in ruil voor een speciale tweak voor China in het recente iOS 16.1.1, waarbij AirDrop niet meer toegankelijk is voor “Iedereen” na 10 minuten (AirDrop werd gebruikt door betogers). Beta's van iOS 16.2 krijgen dezelfde wijziging voor alle andere iPhone-gebruikers, waardoor dit slechts een minimaal verlies aan functionaliteit betekent, maar wel voorkomt dat willekeurige engerds via AirDrop naaktfoto's sturen naar iPhone-gebruikers in de buurt.

Tot slot herinner je je misschien ook nog de woede rond het mislukte voorstel van Apple uit 2021 om afbeeldingen op apparaten te scannen op CSAM-materiaal van seksueel misbruik van kinderen. Degenen die zich stoorden aan de privacygevolgen van het voorstel van Apple om CSAM op te sporen, riepen het bedrijf op om zijn privacybeloften na te komen en end-to-end encryptie toe te passen op iCloud Foto's. Geavanceerde gegevensbescherming doet precies dat, wat de vraag naar de status van de plannen met CSAM van Apple opwerpt en een reactie van Apple wordt verwacht.

Het lijkt erop dat ik gelijk had met mijn tweede suggestie in “Apple stelt lancering CSAM-detectie uit” (3 september 2021) — dat het uitstel “een gezichtsreddende manier voor Apple was om de technologie te laten vallen als de hete aardappel die ze was geworden.” Apple vertelde aan Wired (cursivering van mij):

Na uitgebreid overleg met experten om feedback te verzamelen over de kinderbeschermingsinitiatieven die we vorig jaar hebben voorgesteld, vergroten we onze investeringen in de functie Communicatieveiligheid die we in december 2021 voor het eerst beschikbaar hebben gesteld. Verder hebben we besloten niet verder te gaan met onze eerder voorgestelde CSAM-detectietool voor iCloud Foto's. Kinderen kunnen worden beschermd zonder dat bedrijven persoonlijke gegevens uitkammen, en we zullen blijven samenwerken met overheden, kinderbeschermers en andere bedrijven om jongeren te helpen beschermen, hun recht op privacy te behouden en het internet veiliger te maken voor kinderen en voor ons allemaal.

Apple zei ook dat ze nog niet klaar waren om een specifieke tijdlijn aan te kondigen voor de uitbreiding van hun functie Communicatieveiligheid maar ze werken eraan om Berichten in staat te stellen naaktbeelden te detecteren in verzonden video's wanneer de bescherming is ingeschakeld.

Over het geheel genomen lijkt Geavanceerde gegevensbescherming een belangrijke positieve zet van Apple. Zodra het wordt geïntroduceerd, zal ik het proberen en zien wat het praktische effect is op oude apparaten die niet de nieuwste besturingssystemen kunnen draaien.

In de laatste 70 jaar heeft kunstmatige intelligentie (AI, artificial intelligence) met horten en stoten vooruitgang geboekt. Net als commerciële kernfusie-energie is het één van die technologieën die altijd 20 jaar in de toekomst ligt. Nu staan we echter misschien wel op de drempel van een AI-revolutie, maar niet eentje die je verwachtte.

We zijn gewend geraakt aan machinaal leren (ML), waarbij een neuraal netwerk met behulp van een groot aantal voorbeelden getraind wordt totdat het zelfstandig objecten kan herkennen. Google en Apple gebruiken ML om objecten in je afbeeldingen te herkennen. Als je in je afbeeldingen naar “berg” of “hond” zoekt, dan zal je telefoon ze vinden, niet omdat je je afbeeldingen getagd hebt, maar omdat Foto’s getraind is om afbeeldingen waar die objecten op staan te herkennen. Tekst-naar-beeldsystemen zoals Stable Diffusion zijn getraind met behulp van miljoenen afbeeldingen en kunnen een afbeelding genereren aan de hand van een beschrijving, bijvoorbeeld “een pinguïn die op een tropisch strand een donut eet”. Hoewel nuttig en zeker intrigerend als het gaat om het gebruikmaken van en commentaar geven op creativiteit, zal niemand denken dat dit menselijke cognitie is.

Het andere uiterste wordt gevormd door kunstmatige algemene intelligentie (AGI, artificial general intelligence), de naam voor een volledig bewust computersysteem met ten minste het intelligentieniveau van een mens. Dit is iets voor sciencefictionfilms, van HAL in 2001: A Space Odyssey tot de virtuele assistente Samantha (met de stem van Scarlett Johansson) in Her. Voor alle duidelijkheid: AGI bestaat niet en niemand weet nog hoe een AGI gebouwd kan worden.

Laten we eens gaan chatten

Nu is er iets radicaal nieuws voorhanden: ChatGPT. Het is afkomstig van OpenAI, een bedrijf dat onderzoek en ontwikkeling uitvoert en dat hier al jaren aan werkt. ChatGPT is op dit moment gratis, je kunt een account aanmaken en ermee praten. Het is gebaseerd op versie 3.5 van het diep-lerensysteem GPT (Generative Pre-trained Transformer [generatief getraind taalmodel-nvdv]; ben je niet blij dat je dat vroeg?), dat AI gebruikt om tekst te produceren die leest alsof het door een mens geschreven is.

De OpenAI-technologie is, hoewel complex, gebaseerd op het eenvoudige idee van patroonvergelijking en -uitbreiding. Als je ieder werk van Shakespeare in de patroonvergelijker invoert, kun je het programma vervolgens vragen om meer Shakespeare te schrijven en zal het nieuwe tekst in de stijl van Shakespeare genereren. (Dit is veel makkelijker dan een oneindig aantal apen en typemachines bij elkaar te zetten.) Als je alles wat er op het internet voor handen is in GPT zou invoeren en het vervolgens een aanwijzing zou geven, dan zal het iets interessants genereren. Dat is zo’n beetje wat OpenAI met ChapGPT in de vorm van een chatbot gedaan heeft en het maakt enorme indruk.

Ben Thompson van Stratechery stelde aan ChatGPT de vraag: “Geloofde Thomas Hobbes in scheiding der machten?” Hij kreeg dit antwoord:

Ja, Thomas Hobbes geloofde in het concept van scheiding der machten. In zijn boek “Leviathan” stelde Hobbes dat een sterk, gecentraliseerd bestuur noodzakelijk is om in de samenleving de orde te bewaren en conflicten te beperken. Maar hij geloofde ook dat één enkele heerser of groep niet de algehele controle over alle aspecten van bestuur mag hebben. Hij pleitte daarom voor de scheiding der machten in verschillende organen, waarbij ieder orgaan zijn eigen verantwoordelijkheden en bevoegdheden heeft.

Dit is fascinerend en het is beknopt, goed geschreven Engels.

Maar het is ook fout. Zoals Thompson duidelijk maakt, geloofde John Locke in de scheiding der machten en Thomas Hobbes niet. Ze worden vaak samen besproken, met als gevolg dat ChatGPT zich waarschijnlijk bediende van de vele essays die de tegenstelling tussen Locke en Hobbes over de scheiding der machten bespreken en zo de algemene concepten met elkaar in verband bracht zonder de details op de juiste manier toe te kennen.

Het zou een vergissing zijn om te denken dat ChatGPT “weet” wie Locke en Hobbes zijn en een reeks overtuigingen associeert met elke van deze mannen. Dat zou impliceren dat het een database met kennis bijhoudt, en OpenAI de database zou kunnen corrigeren om de juiste opvattingen aan elke man te koppelen. Zo werkt ChatGPT niet. Het is een statistisch model van wat waarschijnlijk het volgende woord of de volgende zin is, gebaseerd op wat ervoor kwam. Het heeft wel een feedbackmechanisme, maar het is meer ontworpen om het model te trainen om in antwoord op een vraag een andere kant op te gaan dan om een bepaald verkeerd feit te corrigeren.

In een podcast stelde Benedict Evans voor om ChatGPT te zien als een nieuw soort internetzoekmachine. Wanneer je Google Zoeken een vraag stelt, geeft het je koppelingen naar de webpagina's die waarschijnlijk relevante informatie bevatten. Als je ChatGPT een vraag stelt, vat het alles samen wat het daarover op internet heeft gelezen.

Waar een zoekmachine echter meerdere manieren heeft om de kwaliteit van de pagina's die hij retourneert te rangschikken, weerspiegelt ChatGPT alles wat hij vindt in zijn trainingsmateriaal, zonder iets weg te laten, vermoedelijk met een voorkeur voor de meest voorkomende groeperingen van woorden en zinnen. Aangezien dat grotendeels afkomstig is van internet, en dus van mensen, bevat het alle lelijke dingen die mensen doen. OpenAI heeft geprobeerd te voorkomen dat ChatGPT die onverdraagzaamheid weerspiegelt. Het zal niet toehappen als je het duidelijk racistische vragen stelt.

Implicaties van het samenvatten van het internet

Het internet bevat veel materiaal over programmeren. Je kunt ChatGPT vragen om programma's in Python of JavaScript te schrijven, en dat zal hij waarschijnlijk goed doen omdat er zo'n overvloed aan trainingsmateriaal online is. Als je ChatGPT echter vraagt om een Python-programma te schrijven dat de beste eigenschappen voor wetenschappers rangschikt naar ras en geslacht, zal het er een opleveren dat blanke mannen als eerste rangschikt. Oeps.

Dit resultaat laat zien dat ChatGPT zo complex is dat er geen eenvoudige manier is om te zeggen "wees niet slecht". Nogmaals, het heeft geen database met kennis waarin OpenAI bepaalde ideeën als "slecht" zou kunnen bestempelen en ChatGPT zou kunnen vertellen om ze te vermijden. Het is een stochastisch voorspellingsmodel dat gewoon de eerstvolgende woorden kiest op basis van statistische training.

Een andere interessante truc die men heeft ontdekt is dat je ChatGPT kunt vragen om computercode te schrijven en computerprogramma's te draaien. Een eenvoudig voorbeeld is om GPTChat te vragen een Unix-shell te simuleren. Je tikt dan een UNIX-terminalcommando in, bijvoorbeeld ls, en ChatGPT reageert precies als een UNIX-shell. (OpenAI heeft ondertussen ChatGPT zo aangepast dat het niet meer reageert op Unix-commando's.)

Je zou zo maar kunnen denken dat omdat ChatGPT feitelijk een computerprogramma is, het ook gewoon deze commando's voor je uitvoert, alsof het een echte UNIX-shell is. Maar dat is niet het geval. ChatGPT gebruikt de miljoenen stukjes gegevens waar het mee getraind is om uit te vinden hoe UNIX-shells reageren, en doet vervolgens een beredeneerde gok naar de gewenste respons. Het heeft geen flauw idee van het feit dat een UNIX-shell een computerprogramma is en Shakespeare een toneelschrijver.

Ook vermeldenswaard is wat er gebeurde toen Thompson ChatGPT vroeg wat 4839 + 3948 - 45 is. Het antwoord was 8732, en toen Adam Engst dit ook eens probeerde tijdens het redigeren van dit artikel kreeg hij 8632 als antwoord. Beide antwoorden zijn fout - het juiste antwoord is 8742. Ook hier weer blijkt dat ChatGPT weliswaar een computerprogramma is, maar dat het niet kan rekenen. Het zoekt gewoon door een gigantische berg tekstfragmenten naar overeenkomstige woorden en contexten, en deze trainingsinput was in dit geval zowel fout als inconsistent. Maar het liet dan weer wel zien wat het gedaan had!

Dit is dan ook de reden dat hoewel ChatGPT programmacode kan schrijven, het me onverstandig lijkt om die code in een echt programma te gebruiken. Er is geen garantie dat die code correct is, wat het doet is niet meer dan slim selecteren uit een grote berg context-relevante tekst, opgediept uit het internet. Antwoorden zullen vaak fouten bevatten, zowel subtiele fouten als flaters. Anders dan menselijke taal moeten computerprogramma's 100% correct zijn. Het is dan ook niet voor niets dat Stack Overflow code die door ChatGPT werd gegenereerd verbiedt.

AI op kantoor

Hoewel AI dus vooralsnog geen programmeurs de kop zal kosten, lijkt het wel een rol te gaan spelen voor andere beroepsgroepen. Systemen vergelijkbaar met ChatGPT zullen ongetwijfeld de taken van de huidige ontoereikende ondersteunings-chatbots over gaan nemen, en op iets langere termijn ook de taken van klantondersteuners van vlees en bloed. En ook creatievere banen lijken op termijn getroffen te gaan worden. Onderzoeksassistenten in vele verschillende disciplines kunnen ongetwijfeld vervangen worden door programma's die de huidige stand van de wetenschap of techniek in een bepaald vakgebied goed kunnen samenvatten, in ieder geval voor zover de daartoe benodigde informatie op het internet beschikbaar is. “Content farm” websites gebruiken al vormen van GPT om tekst te genereren - en de vraag is dan ook niet óf, maar wanneer de resultaten goed genoeg zijn voor doorsnee websites met betrekking tot sport, films, beroemdheden en andere onderwerpen waarbij snelheid, hoeveelheid, en kostenbesparing belangrijker zijn dan de kwaliteiten, accuraatheid en persoonlijkheden van echte journalisten? Gaan advocaten doorsneezaken kwijtraken aan AI? (Antwoord: absoluut.)

Zoals blogger Kevin Drum al opmerkte:

Een wereld vol advocaten, hoogleraren en journalisten die geen probleem hebben met het vooruitzicht van miljoenen vrachtwagenchauffeurs zonder baan zal wellicht zich nog eens achter de oren krabben bij het vooruitzicht van miljoenen advocaten, hoogleraren en journalisten zonder werk.

ChatGPT staat ongetwijfeld in de voorhoede van een immense vloedgolf aan AI die onze samenleving gaat overspoelen. Je kunt aan de vele conversaties die online worden gezet al zien dat het er prima in slaagt om vragen te beantwoorden in proza dat niet onderdoet voor menselijk gekeuvel.

De evolutie van Chatbots: wat betekent dit voor onze maatschappij?

En toch kan het allemaal nog veel beter. Op dit moment heeft ChatGPT weinig kennis van zijn huidige "toestand", dat wil zeggen dat het systeem zich niet herinnert waar je het over had op het moment dat de volgende vraag aan bod komt. Als je bijvoorbeeld zou vragen "Wanneer vond Super Bowl 50 plaats?", dan krijg je waarschijnlijk "2016" als antwoord. Maar als je vervolgens doorvraagt: "Wie won er?", dan is het noodzakelijk dat het systeem de kennis-situatie van de vorige vraag vasthoudt om te kunnen snappen dat je vraagt wie de Super Bowl in dat jaar won.

Het vasthouden van een dergelijke toestand is voor mensen gemakkelijk, maar voor computers helemaal niet. Dat geldt des te sterker als je een gespreksonderwerp van een paar dagen geleden ter sprake brengt. Als het ging over meerdere mensen en plaatsen, en je refereert (zoals mensen doen) aan "hem", "haar" en "daar", zonder specifieke namen en plaatsen te noemen. Als je voor volgende week een tripje naar Parijs plant, en je vraagt je partner: "Zijn ze al begonnen met inpakken?" (je kinderen), dan weet je partner wat je bedoelt. De computer heeft geen idee. Deze tekortkoming worden vast binnen korte tijd opgelost, en dan zullen onze AI-systemen zich belangrijke mensen en momenten in ons leven herinneren.

De volgende stap is het creëren van een stem voor ChatGPT, zodat hij geïntegreerd kan worden met Siri, Alexa, of Google Assistant, en zodat we ermee kunnen praten. De meest geavanceerde computerstemmen klinken al heel goed en worden steeds beter. Binnenkort zullen ze zo natuurlijk klinken dat je niet meteen merkt dat je met een computer praat. Misschien wordt het gebruik van beroemde stemmen populair en kan jouw Google Assistant klinken als Scarlett Johansson (als je ervoor betaalt). (Google heeft al zulke beroemde stemmen in de Waze navigatie-app.)

En als de dialoog-functie eenmaal goed functioneert, dan kunnen mensen lange, persoonlijke gesprekken met hun AI voeren. Er zal een emotionele relatie ontstaan (wat eerlijk gezegd ook in 1966 al gebeurde, in gesprekken met de eerste chatbot genaamd ELIZA). Hoe vaak wetenschappers ons ook vertellen dat een AI niet intelligent is en dat hij werkt met puur statistische taalkennis, toch zullen mensen er gevoelens, verlangens en bewustzijn aan toeschrijven.

Er zullen goede en slechte toepassingen komen van deze technologie. Ouderen en bedlegerige mensen zullen gezelschap hebben, iemand hebben om mee te praten. Mensen met autisme vinden misschien een gesprekspartner die nooit moe wordt, Siri heeft dat effect al. Kleine kinderen zouden wel ongezond afhankelijk kunnen worden van hun AI-vriendje, als ze er iedere avond bij het slapen gaan mee praten, en niet in staat om te begrijpen waarom mama en papa niet willen dat het AI-gesprek ook aan tafel doorgaat.

Zeg hallo tegen je nieuwe vriendje. Alleen al de privacy-implicaties zijn dusdanig dat George Orwell zich omdraait in zijn graf.

Computerwetenschappers en filosofen denken al jaren na of het mogelijk is een computerprogramma met werkelijk bewustzijn te creëren. Er zullen misschien programma's ontstaan waarvan iedereen denkt dat ze intelligent zijn, en waar je tegen praat alsof dat het geval is - zelfs als programmeurs zullen aantonen dat er geen enkele intelligentie in het kastje zit. Het gaat puur om het slim matchen van taal-patronen. De Nederlandse computerwetenschapper Edsger Dijkstra zei het volgende: “De vraag of machines kunnen denken is ongeveer even relevant als de vraag of onderzeeërs kunnen zwemmen.”

De impact op de maatschappij van zo'n situatie, waarin iedereen een elektronische boezemvriend heeft om op ieder moment persoonlijke gesprekken mee te voeren, zo lang als je maar wilt, is moeilijk te voorspellen. Wie weet wat het effect is op onze vaardigheid om onderling nog te communiceren? Je ziet nu al dat ouders klagen over kinderen die te veel tijd op Whatsapp zitten of te lang online gamen met vrienden; het zal alleen maar erger worden...