Respect en verantwoordelijkheid, dat is waar het om draait bij het ontwikkelen van AI. Dit stelt Kathy Baxter, Architect, Ethical AI Practice bij Salesforce.
“Eigenlijk is het ontwikkelen van AI als het grootbrengen van een kind. Als ontwikkelaar van AI ben je eigenlijk een ouder.” Volgens Baxter moeten we daarom altijd voldoende respect en verantwoordelijkheid tonen.
Ook zouden we vroeg moeten beginnen met het ’trainen’ van ons AI-kind. “Zo zorgen we ervoor dat onze AI creatie zal passen bij de waarden die belangrijk zijn in onze maatschappij.”
Vooroordelen
Baxter: “Ook moeten we ons ervan bewust zijn dat onze AI ontwikkelingen de vooroordelen in onze businessprocessen weerspiegelen. Die zie je namelijk terug in de trainingsdata.”
Ze stelt dat we deze vooroordelen moeten leren herkennen en ze niet alleen uit de trainingsdata moeten halen, maar ook uit onze businessprocessen zelf. “Als we AI met respect behandelen, zorgen we ervoor dat AI een creatie wordt dat iets teruggeeft aan de maatschappij.”
Om klanten te helpen bij het ethisch en verantwoord gebruik van AI, heeft SalesForce verschillende apps en educatieve tools voor klanten. “Zo kunnen klanten leren om onze tools beter te gebruiken en krijgen ze meer inzicht in wat ze precies aan het doen zijn.”
“We communiceren met klanten ook over de factoren die gebruikt worden in de modellen. Als ze gevoelige persoonsgegevens gebruiken zoals geslacht, leeftijd, afkomst, dan zullen we daar een vlaggetje bij zetten. We vinden het heel belangrijk om bij te dragen aan bewustwording bij klanten.”
