Don’t be evil

Directe aanleiding was het contract dat Google enkele maanden eerder had afgesloten met het Amerikaanse ministerie van Defensie om mee te doen aan Project Maven. In omzettermen was het voor Google een bescheiden contract, maar het gehele project was gericht op de inzet van AI om beelden van camera’s en drones automatisch te analyseren en doelwitten te markeren. Daarmee zou het automatiseren van drone-aanslagen binnen bereik komen. De bezorgde medewerkers vonden de projectdeelname strijdig met de ethische principes rondom wapens en surveillance, samengevat in het toenmalige bedrijfsmotto en de gedragslijn voor medewerkers: “Don’t be Evil”.

Het motto werd institutioneel bij de beursgang van Google in 2004. De oprichters van Google, Larry Page en Sergey Brin, namen het prominent op in de IPO-prospectus en het kwam ook in de code-of-conduct terecht. Het werd later nog aangescherpt: And remember… don’t be evil, and if you see something that you think isn’t right – speak up!.

In 2015 werd Alphabet Inc gevormd, een holding waarvan Google onderdeel werd. Bij Alphabet kozen ze voor een ander motto in hun code-of-conduct: “Do the right thing”. Voor Google bleef het motto tot 2018 ongewijzigd.

Tegelijkertijd werd een document AI Principles opgesteld en gepubliceerd, de eerste versie is van 2018.

Ik deelde destijds de van vele kanten geuite kritiek op de veranderingen die werden gezien als degradatie van Don’t be evil als Google’s belangrijkste waarde. Inmiddels ben ik er milder over. Het oorspronkelijke motto is krachtig en emotievol. Het past bij de start-up fase van een bedrijf. Maar in praktisch en juridisch opzicht heeft het motto weinig betekenis. Er zijn immers geen consequenties als je je er niet aan houdt, in elk geval niet in het aardse bestaan.

En vandaag? In de laatste (2025) versie van de AI Principles zijn de twee uitsluitingen verwijderd en vervangen door een algemene verwijzing om aan te sluiten bij internationaal recht en mensenrechten. Demis Hassabis, inmiddels overall chef van Google AI, rechtvaardigt de wijzigingen door te verwijzen naar nationale veiligheid en naar de noodzaak dat democratieën de leiding nemen in AI-ontwikkeling. Je zou het voortschrijdend inzicht onder de noemer ‘geopolitiek pragmatisme’ kunnen noemen, of ‘plat economisch opportunisme’ zoals veel criticasters zeggen. Vooralsnog gun ik Hassabis het voordeel van de twijfel.

Net als Google positioneert Microsoft AI-ethiek binnen de missie van de onderneming zelf. Dat deden ze al ruim voor de huidige generatieve AI-golf en het geldt voor al hun producten. Microsoft hanteert zes kernprincipes op de gebieden van: Rechtvaardigheid, Betrouwbaarheid en Veiligheid, Privacy en Beveiliging, Inclusiviteit, Transparantie, Accountabiliteit. Daarbinnen is in 2025 hun Responsible AI Standard aangescherpt, onder meer om aan de EU AI Act te voldoen.
Bij Microsoft zijn militaire of surveillance toepassingen nooit uitgesloten geweest. Ze waren pragmatisch vanaf het begin maar altijd met inachtneming van hun zes kernprincipes.

OpenAI is de kampioen ‘voortschrijdend inzicht’, vergeef me enig cynisme. In negen jaar tijd is hun missie zes keer gewijzigd. Ze begonnen in 2015 met de non-profit doelstelling om AGI te bouwen that safely benefits humanity, unconstrained by the need to generate financial return. Inmiddels zijn ze for-profit en is het woordje safely uit de tekst verdwenen.

OpenAI had jarenlang een centraal Mission Alignment‑team. In februari 2026 werd die functie heringericht en grotendeels ondergebracht in de verschillende productteams. Dit centrale team hield zich bezig met de vraag hoe de bedrijfs­missie intern en extern verankerd en gecommuniceerd kan worden. Het bood in elk geval nog enig zicht op de manier waarop OpenAI met ethische kwesties omging en bood een vorm van tegenmacht tegen commercieel aantrekkelijke maar riskante toepassingen.

Kort nadat Anthropic onenigheid kreeg met het Pentagon over de inzet van hun AI (Claude) in ethisch dubieuze omstandigheden sloot OpenAI wel een contract onder de voorwaarden die Anthropic had geweigerd. In dezelfde week… Voor OpenAI lijkt het tevens een breuk te zijn met hun eerdere eigen restricties op militair gebruik.

Anthropic werd in 2021 opgericht door Dario Amodei en zijn zus Daniela. Ze verlieten OpenAI, met een aantal collega’s, uit bezorgdheid over de koers die OpenAI was ingeslagen met name op het gebied van AI veiligheid en alignment. De missie van Anthropic bevat wel het woordje “safely’: “… to ensure the world safely makes the transition through transformative AI“.

Hun strategie is om de modellen die ze ontwikkelen ook, en expliciet, te trainen op de normen en waarden die ze belangrijk vinden. Ze hebben een soort AI-grondwet van principes opgesteld, Constitutional AI, waarbij van de modellen gevraagd wordt om altijd de eigen output te toetsen aan die principes. Dit is een stevige oplossing om ethische onderwerpen technisch te verankeren in de door Anthropic ontwikkelde modellen.

Als aanvulling op het ethische kader formuleerden ze een eigen veiligheidsbeleid dat hen verplicht strikte veiligheidstesten uit te voeren vóórdat een krachtiger model getraind of uitgebracht mag worden: Responsible Scaling Policy (RSP).

De benadering van Anthropic is alom bekend en ook alom geprezen. Toch kwamen ze in het oog van de storm terecht, een shit storm om precies te zijn.
Anthropic heeft geen principieel bezwaar tegen contracten met het Pentagon. Zo kan het dat hun taalmodel Claude is ingebed in het Maven Smart System (van Palantir) – doorontwikkeling van hetzelfde Project Maven waar Google eerder was uitgestapt. De rol van Claude lijkt te zijn het verwerken en samenvatten van binnenkomende inlichtingen, zo ongeveer de huis- tuin- en keukentoepassing waarvoor iedere AI gebruiker een model als Claude of ChatGPT inzet.
Het Pentagon wil meer en eist dat Anthropic de ingebouwde ethische en veiligheidseisen uitschakelt zodat het leger ongehinderd Claude elke taak kan laten doen.

De rode lijn voor Anthropic is: geen massale binnenlandse surveillance van Amerikanen en geen volledig autonome dodelijke wapens zonder betekenisvolle menselijke controle. Amodei weigerde daarom toe te geven aan de eisen van het Pentagon en met name aan die van oorlogsminister Hegseth. Amodei hield vast aan de zo zorgvuldig ontwikkelde en geïmplementeerde ethische kaders van zijn bedrijf.

Het gevolg is dat Anthropic nu door de Amerikaanse overheid wordt beschouwd als een supply chain risk. Als de overheid dit doorzet betekent het feitelijk dat niemand meer zaken mag doen met Anthropic. Dat zal onvermijdelijk leiden tot het einde van het bedrijf. Anthropic heeft rechtszaken aangespannen om het onheil af te wenden, de uitkomst is vooralsnog onzeker.

Meta benadert AI veiligheid op een geheel eigen wijze. Ze proberen hun AI-modellen tot een publiek goed te maken door ze in het open source domein te brengen. In theorie is daarmee een wereldwijde controle van hun modellen mogelijk en kunnen kwetsbaarheden sneller worden opgespoord. In theorie, want ik denk niet dat het werkt. De kern van zo’n benadering is volgens mij niet het ontsluiten van de techniek maar het opbouwen van een actieve open community. Denk aan Wikipedia, of Linux. Een Big Tech speler als Meta is goedbeschouwd per definitie het tegendeel van een open community.

De missie van xAI, opgericht door Elon Musk, is to understand the true nature of the universe. Het bedrijf baseert zijn ethiek op het principe van truth‑seeking. Musk vindt de andere AI-modellen in essentie onbetrouwbaar vanwege vermeende politieke correctheid en ideologische filters. Diversiteit van AI-systemen is volgens Musk de beste garantie tegen de vorming van een monopolie op waarheid of informatie. Het AI-model van xAI, Grok, is ontworpen om direct te reageren op zogenoemde first principles, waarbij het gebruik maakt van real-time data van het X-platform, voorheen Twitter. Ach ja, Musk.