Een app om je woede te beheersen

En tijdje geleden verscheen mijn artikel ‘Met Foucault over subjectivering, verleiding en techniek’. Het artikel is onderdeel van een themanummer van het Algemeen Nederlands Tijdschrift voor Wijsbegeerte (ANTW) over Michel Foucaults postuum uitgegeven boek Bekentenissen van het vlees (link).

Hoewel je het op het eerste gezicht misschien niet zou verwachten heeft deze studie van Foucault die handelt over seksueel verlangen, religie en ethiek in het vroege christendom wel degelijk actuele betekenis voor mijn onderzoek rond de impact en ethiek van techniek. Daarbij denk ik vooral aan de verleidende en beïnvloedende inmenging in ons denken en willen door slimme technologie.

Mijn artikel in ANTW gaat theoretisch behoorlijk de diepte in. Maar ik haal ook voorbeelden aan. Later stuitte ik echter in Trouw op een pennenstrijd over een voorbeeld dat ik bijzonder treffend en fascinerend vind: de “woede-app”.

Woede-app

Het concept van de woede-app is dat op het lichaam gedragen apparatuur (smartwatch gekoppeld aan smartphone) hartslag, ademhaling, zweet, spierspanning aan het lichaam meet, oplopende agressie kan bepalen en feedback kan geven om een uitbarsting van agressie af te wenden.

In heel letterlijke zin is dit een app die mensen laat “bekennen wat zich binnen in hen afspeelt”. Dat is zeer vergelijkbaar met de formulering van de “bekentenissen van het vlees”. Nieuw is hoe dit langs technische weg gebeurt. Gebruikers hoeven niet hardop pratend aan iemand anders te bekennen wat zij zelf goed wisten maar stilhielden. De app richt zich op een fase daaraan voorafgaand en laat het lichaam zijn emotionele toestand bekennen, zowel aan anderen als ook aan de persoon zelf.

Toch is het verschil kleiner dan zo lijkt. Want het bekennen aan iemand anders ging altijd al gepaard met een aansporing tot zelfonderzoek, om verlangens en overtuigingen die onderbewust waren bewust te maken. Zulke activiteiten voor zelfonderzoek, zoals mediteren of dagboek-schrijven, noemt Foucault “zelftechnieken”. Deze maken volgens Foucault deel uit van ethiek op praktisch niveau, het in de praktijk brengen van een manier van leven, ethiek als “zorg voor zichzelf”. Zelftechnieken zijn oefeningen, methoden, maar er kunnen ook technische hulpmiddelen bij betrokken zijn (zie mijn artikel hierover). Een dagboek is een technisch hulpmiddel bij zelfonderzoek als zelftechniek. Net zo is de woede-app ook een technisch hulpmiddel bij de zelftechniek van zelfonderzoek en zelfbeheersing.

Jezelf bewust worden van emoties en leren beheerst om te gaan met woede zal iedereen nastrevenswaardig vinden. Als een app daarbij kan helpen, is dat in principe positief, in ieder geval voor mensen bij wie dit niet vanzelf lukt en die terugkerend problemen met agressie hebben.

Maar wat als je de app niet zelf gebruikt als hulpmiddel om aan jezelf te werken, maar de app jou wordt opgedrongen? Dan is de app hulpmiddel om mensen te “disciplineren”, met een andere en nog veel bekendere term van Foucault. Disciplinerende macht kan verschillende vormen aannemen: opzichtig dwingende onderwerping, maar zeker ook de vorm van meer subtiele oproep tot zelfverbetering.

Pennestrijd in Trouw

De briefwisseling in Trouw begon met een artikel waarin Annemieke ter Harmsel vertelt over experimenten met zo’n app, om mensen die problemen hebben met agressie te helpen aanzwellende boosheid beter te signaleren. De gebruikte apparatuur bestaat uit een smartwatch met sensoren gekoppeld aan een smartphone (Sense-IT). Bij oplopende agressie geeft het systeem een seintje en een suggestie voor een mede door de gebruiker bepaalde activiteit om rustig te worden, zoals muziek luisteren.

In een commentaar in de Trouw-rubriek Het filosofisch elftal reageren twee filosofen. Vincent Blok is gematigd kritisch. Is deze app bedoeld voor het welzijn van de drager van de apparatuur, of voor een samenleving die geen woede meer tolereert? De reactie van Marli Huijer is fel afwijzend. Haar insteek is dat deze app altijd ingaat tegen de vrije wil van de gebruiker. In de app zit een norm die niet door henzelf is bepaald. Zogenaamd vrijwillig meewerkende gebruikers hebben een externe eis tot “disciplinering” overgenomen, stelt ze met een expliciete verwijzing naar Foucault. Via de app en het digitale platform worden mensen achter hun rug om gecontroleerd en gedisciplineerd.

Dit commentaar lokte een reactie uit op de opiniepagina van Wieger van Dalen en Erik Fledderus. Zij halen een les uit de techniekfilosofie aan: alle techniek is geladen met normen. Zij menen dat Huijer dat niet onderkent. Dat zou blijken uit haar kritiek dat de normen in de app niet van gebruikers zelf komen terwijl dat wel zou moeten. Volgens Van Dalen en Fledderus is het een gemiste kans als ethici aan de aanname vasthouden dat normen van mensen zijn en niet in techniek mogen zitten; zo plaatsen ze zich buiten de maatschappij en buiten de techniekontwikkeling. Techniekfilosofen kunnen daarentegen ook begeleiden bij de ontwikkeling van techniek door te helpen reflecteren op de vraag welke moraal met techniek versterkt mag worden en welke juist niet.

Annemieke ter Harmsel reageerde ook nog zelf in een opinieartikel samen met Youri Derks op het felle commentaar van de filosofen uit het elftal van Trouw. Ze corrigeren enkele aannames van Huijer en Blok: de data worden niet naar een centraal punt gestuurd, de app dempt de woede niet achter de rug van de gebruiker om; de app werkt niet dictatoriaal, maar is bedoeld als hulpmiddel voor mensen voor het herkennen van hun eigen lichaamssignalen. Huijer en Blok worden uitgenodigd om te komen meedenken met de ontwikkelaars.

Ethische reflectie bij techniekontwikkeling

Dat laatste is ongeveer wat Van Dalen en Fledderus voorstellen: techniekfilosofen betrokken laten zijn bij de ontwikkeling van techniek. Op dit punt bereikt de discussie dus snel consensus. Het is een goede aanpak dat ethische reflectie onderdeel wordt van het ontwikkelproces van nieuwe techniek. (Is ook onze overtuiging en werkwijze in het lectoraat Ethiek & technologie.)

Over de inhoud en uitkomst van de die reflectie komt waarschijnlijk minder snel overeenstemming. We hebben immers in de krant mee kunnen lezen hoe de twee filosofen-teams flink anders insteken. Volgens Van Dalen en Fledderus leert de techniekfilosofie dat mens en techniek fundamenteel verweven zijn, dat normen net zo goed van de techniek zijn als van de mens. Ethici kunnen daarom weliswaar begeleiden bij de ontwikkeling van techniek die in wenselijke richting disciplineert, maar een afwijzing van technologie vanwege disciplinering geeft geen pas. Dat zou ingaan tegen de techniekfilosofische theorie.

Waarschuwen voor disciplinering is wat Huijer en Blok juist wel doen. Blok maakt de onderscheiding of de app er is voor het welzijn van de gebruikers of ter bescherming van de maatschappelijke veiligheid door mensen gebruikt moet worden. Huijer vreest dat het deze app altijd zal uitdraaien op van buitenaf opgelegde disciplinering.

In het slotartikel gaan Ter Harmsel en Derks daar nadrukkelijk op in en ze benadrukken dan dat de app bedoeld is voor gebruik door mensen om lichaamssignalen te herkennen, dat mensen zelf afwegen wat ze met de feedback doen. Dit sluit aan dus bij de vraag van Blok: wordt het ingezet voor welzijn van gebruikers of voor veiligheid in de maatschappij?

Disciplinering én zelfzorg

Wat mij betreft is dit het belangrijkste punt. Zo’n woede-app is vanuit ethisch perspectief veel gemakkelijker aanvaardbaar als het een app is die mensen zelf willen gebruiken als onderdeel van het werken aan zichzelf bij hun streven om hun agressie te beheersen.

Dat betekent dat de app gebruikt wordt in een kader van zelfzorg in plaats van in een disciplinerend kader. In de discussie werd wel Foucaults kritische perspectief op disciplinerende macht aangehaald, maar niet zijn aanvullende perspectief van zelfzorg. Juist met die aanvulling hebben we volgens mij een behulpzaam kader voor ethische reflectie op de toepassing van de woede-app. Toepassing van de app kan voor ethisch wenselijk doorgaan in een kader van zelfzorg maar is bedenkelijk wanneer deze disciplinerend wordt ingezet. Dit geeft een draai aan de discussie, waarin zelfzorg als perspectief tot nu toe afwezig was.

De pennenstrijd leek een welles-nietes over de kwestie of de app kwalijk disciplinerend is. Blok en Huijer vinden van wel. Van Dalen en Fledderus lijken te zeggen van nietes. Dat zeggen ze niet zo letterlijk, maar het volgt impliciet uit hun redenering over normen in alle techniek en de afwijzing van de kritiek van disciplinering. Bovendien halen zij een tamelijk disciplinerend eigen voorbeeld aan: de toepassing van technologie om agressie in voedbalstadions te controleren. Dat lijkt mij een uitzonderingssituatie waar wat meer disciplinering eventueel aanvaardbaar kan zijn. Zou het niet verhelderend zijn om dit als uitzonderingssituatie te benoemen en dat het in het algemeen wenselijk is dat mensen zelf meer in controle zijn?

Het zelfzorg-perspectief is afwezig bij Van Dalen en Fledderus. Bij Huijer en Blok is het impliciet aanwezig. Bij Ter Harmsel en Derks is het ook zeker aanwezig, maar zonder het zo te noemen. Zij stellen dat de app bedoeld is mensen zelf te helpen hun eigen lichaamssignalen te herkennen en hun eigen gedrag bij te sturen. Met het kader van disciplinering en zelfzorg kan benadrukt worden dat dat een ethisch wenselijke of toelaatbare richting is en dat moet worden opgepast voor de tendens van een meer disciplinerende toepassing. En die tendens ligt telkens op de loer.

Potentieel voor de app?

Als het criterium is dat de app in het kader van zelfzorg wordt toegepast en niet disciplinerend, betekent dit dat de app misschien enig potentieel heeft, maar er zeker niet te veel van verwacht kan worden. Uitgangspunt is dan dat mensen de app vrijwillig gebruiken; niet iedereen zal willen meedoen, juist de mensen met de ernstigste agressieproblemen wellicht niet.

Ik denk overigens dat vanuit het perspectief van werkzaamheid dit ook de enige wijze van implementatie is met enige kans van slagen. Het alternatief is dat je moet denken in de richting van gedwongen gebruik en feedback in dwingende vorm. Dan schuiven we ver op naar de ethisch omstreden disciplinerende toepassing. En het zal veel woede en verzet bij de gebruiker oproepen. Of, zou de app in de toekomst zo subtiel kunnen werken dat de woede onmerkbaar wordt weggeleid? Als dat zou kunnen, zou het helemaal ethische vragen oproepen.

Als dat zou kunnen; hier stuiten we nog op een andere vraag rondom de woede-app. In hoeverre kan zo’n app werken? Kun je woede meten aan het lichaam? En is het realistisch dat een app met tips, met een muziekje, opzwellende agressie kan helpen wegnemen. Of worden mensen alleen maar nog agressiever als een app hen voorhoudt dat ze een wandelingetje moeten maken om af te koelen? Kortom, misschien is de app gebaseerd op naïeve psychologische aannames en zal de werking blijken tegen te vallen.

Kortom, ik ben benieuwd wat onderzoek en experiment zal uitwijzen over de effectiviteit van een woede-app. En het ethisch kader moet wat mij betreft zijn dat zo’n app door mensen zelf wordt gebruikt wordt voor zelfzorg bij agressie-beheersing en niet disciplinerend op hen wordt toegepast.

—

Workshop

Op basis van de casus van de woede-app heb ik ook een workhop verzorgd op het reclasseringscongres 2023.

Waar moeten we vanuit ethisch oogpunt rekening mee houden bij de inzet van (digitale) technologie in het domein van de reclassering? Denk bijvoorbeeld aan wearables die in ontwikkeling zijn om agressie te helpen signaleren en voorkomen. Voor wie op een goede manier zijn leven wil oppakken kan zulke technologie wellicht een goed hulpmiddel zijn. Vanuit het oogpunt van maatschappelijke veiligheid biedt dergelijke technologie mogelijkheden, maar roept meteen ook vragen op. De begrippen ‘disciplinering’ en ‘zelfzorg’ van de filosoof Michel Foucault bieden een kader om kritisch na te denken over de spanning tussen vrijwilligheid en dwang bij de toepassing van zulke technologie

De workshop begon met een inleiding over de zogenaamde “woede-app”. Ook werd een kader toegelicht van “disciplinering + zelfzorg” om zulke technologie ethisch te evalueren en te ontwerpen. Vervolgens werkten we aan scenario’s voor zo’n app vanuit beide perspectieven. Er is best potentieel voor een woede-app in het kader van zelfzorg, vonden de meeste deelnemers. We gingen ook los op scenario’s voor gedwongen, disciplinerende toepassing; dat werd spooky. Lees het achtergrondartikel daarover (zie hieronder, of online).