Arvind Krishna, de CEO van IBM, heeft in een brief aan het Amerikaanse congres laten weten te stoppen met het ontwikkelen van technologie voor gezichtsherkenning. De brief is een reactie op de protesten tegen rassendiscriminatie die momenteel plaatsvinden in een reeks Amerikaanse steden, en daarbuiten.
De CEO van IBM geeft in de brief aan om te willen samenwerken met het congres om raciale ongelijkheid in de Verenigde Staten te bestrijden. Een van de onderdelen in dit voorstel is ‘Verantwoord technologiebeleid’, inclusief een stop op het ontwikkelen van technologie voor gezichtsherkenning die raciale vooroordelen zou kunnen bevatten.
Hij schrijft hierover:
Technologie kan de transparantie vergroten en de politie helpen gemeenschappen te beschermen, maar mag discriminatie of racistisch onrecht niet bevorderen.
IBM biedt niet langer algemene IBM gezichtsherkennings- of analysesoftware aan. IBM is fel gekant tegen en zal het gebruik van technologie, inclusief gezichtsherkenningstechnologie van andere leveranciers, niet goedkeuren voor massale bewaking, raciale profilering, schendingen van fundamentele mensenrechten en vrijheden, of voor enig doel dat niet in overeenstemming is met onze waarden en vertrouwensprincipes en transparantie. Wij zijn van mening dat dit het moment is om een nationale dialoog te beginnen over de vraag of en hoe gezichtsherkenningstechnologie moet worden gebruikt door nationale wetshandhavingsinstanties.
Kunstmatige intelligentie is een krachtig hulpmiddel dat wetshandhavers kan helpen om burgers veilig te houden. Maar leveranciers en gebruikers van Al-systemen hebben een gedeelde verantwoordelijkheid om ervoor te zorgen dat Al wordt getest op vooringenomenheid, met name bij gebruik bij wetshandhaving, en dat dergelijke vooroordelen worden gecontroleerd en gerapporteerd.
Ten slotte moet het nationale beleid ook het gebruik van technologie aanmoedigen en bevorderen die zorgt voor meer transparantie en verantwoording voor de politie, zoals lichaamscamera’s en moderne data-analysetechnieken.
