1718

ПРИСТРАСНОСТ

дефиниција    

Се дефинира поимот како „Склоност кон одредена

група или идеја, често на непотребна или неправедна основа“

 Примери на пристрасност: препознавање на лица, алгоритми за вработување, препораки на видеа/музика.

Пристрасноста во вештачката интелигенција се однесува на систематски грешки во резултатите од вештачката интелигенција предизвикани од искривени податоци, погрешен дизајн или општествени нееднаквости што се рефлектираат во множествата податоци. Може да доведе до неправедни или дискриминаторски исходи.

цел

Целта на проучувањето на пристрасноста е да се идентификува и ублажи неправедноста во системите со вештачка интелигенција. Организациите имаат за цел да изградат поправедни модели преку решавање на овие проблеми.

Важност

• Доколку не се реши проблемот, доведува до дискриминација при вработување, кредитирање или здравствена заштита.
• Ја поткопува довербата во системите со вештачка интелигенција.
• Бара усогласеност со регулативите во чувствителните индустрии.
• Поврзано со праведност и одговорни практики на вештачка интелигенција.

Како работиме

1. Идентификувајте потенцијални извори на пристрасност (собирање податоци, етикетирање, моделирање).
2. Анализирајте ги множествата податоци за нерамнотежа.
3. Применувајте методи за обука кои се свесни за праведноста.
4. Тестирајте ги резултатите со метрики за праведност.
5. Прилагодете го дизајнот и преквалификувајте го доколку е потребно.

Примери (реален свет)

• Алатка за проценка на ризик COMPAS: критикувана поради расни предрасуди.
• Алгоритам за вработување на Амазон: отфрлен поради родова предрасуда.
• Препознавање на лица: познато е дека погрешно класифицира одредени демографски групи.