Атручэнне даных

Атручэнне даных — від кібератакі^[en], наўмысная падмена даных, што выкарыстоўваюцца для навучання сістэм штучнага інтэлекту, з мэтай спарадзіць памылкі ў працы сістэмы. Часта выклікана выкарыстаннем публічных і ненадзейных даных з адкрытых крыніц^[1].

Існуюць розныя тыпы атручэння даных:

1. Падмена разметкі: замена сапраўднай разметкі для невялікага падмноства даных, напрыклад каб мадэль класіфікацыі распазнавала злачынныя і небяспечныя элементы як бяспечныя^[1].
2. Атручэнне прыкмет: змена прыкмет у даных, каб збіць мадэль. Напрыклад, дадаванне нерэлевантных слоў у апісанне тавару каб заблытаць рэкамендацыйную сістэму^[en][1].
3. Ін’екцыя даных: даданне несапраўдных даных у набор для навучання мадэлі. Напрыклад, фабрыкацыя водгукаў для скажэння вынікаў аналізу танальнасці^[en][1].
4. Атака праз таемны ход: устаўка сакрэтнага ўзору (таемнага ходу) ў даныя для навучання. Мадэль пачынае паводзіць сябе хібна і небяспечна, калі сутыкаецца з сакрэтным узорам^[1].