A mesterséges intelligencia fejlesztéséhez szükséges adatkezelés során egyre hangsúlyosabbá válik a black box jelenség, amely nemcsak az MI működésének átláthatóságát, hanem a jogszerű adatkezelés biztosításának a kérdését is felveti. A probléma különösen az adatvédelmi szabályozás – így a GDPR és az MI Rendelet – fényében válik kritikussá, hiszen az átláthatóság, a célhoz kötöttség és a jogszerűség követelményei már az MI tanításának korai szakaszában komoly kihívásokat támasztanak.