Разследват полицай в Дербишър за предполагаемо използване на ИИ при създаване на доказателствени материали

Полицията в Дербишър води наказателно разследване срещу свой служител след твърдения, че е използвал системи с изкуствен интелект за създаване на доказателствени материали по няколко дела.

Случаят се разглежда като един от първите известни подобни примери в Обединеното кралство и поставя сериозни въпроси за надеждността, контрола и проверката на ИИ инструментите в наказателното правосъдие. Самоличността на служителя и точният характер на предполагаемо създадените материали не са публично оповестени.

Според информацията, съобщена от британски медии и потвърдена от Derbyshire Police, разследването е свързано с подозрение за възпрепятстване на правосъдието. Служителят е отстранен от работа на първа линия до приключване на проверката. Към момента няма извършени арести, а полицията подчертава, че разследването е в ранен етап.

Crown Prosecution Service — прокуратурата за Англия и Уелс — работи с полицията в Дербишър по установяване на всички потенциално засегнати дела. Прокуратурата също така поддържа контакт със съдилища и защитници в случаите, при които може да има риск от използване на неистински или непроверени материали.

Случаят е особено чувствителен, защото засяга самата основа на наказателния процес: доверието, че доказателствата са автентични, проверими и събрани по законен ред. Ако бъде доказано, че служител е използвал ИИ за създаване или изменяне на доказателствен материал, това би могло да засегне не само конкретните дела, но и по-широкото доверие в полицейските процедури.

Инцидентът съвпада със старта на PoliceAI — нов национален център, създаден за отговорно разработване, тестване и внедряване на изкуствен интелект в полицията в Англия и Уелс. Центърът има за цел да подпомага силите на реда при обработка на големи обеми дигитални доказателства, анализ на данни, транскрибиране, обобщаване на материали и разпознаване на нови форми на престъпност, включително злоупотреби с deepfake технологии.

Временният директор на PoliceAI Алекс Мъри заявява, че полицията трябва да върви в крак с технологиите, но да използва изкуствения интелект отговорно — не като заместител на професионалната проверка, а като инструмент, който може да спести време и да подпомогне разследванията. Именно тук се намира и основният парадокс: в момент, когато държавата насърчава по-широко използване на ИИ в правоприлагането, отделен случай показва колко сериозни могат да бъдат рисковете при липса на контрол.

Това не е първият проблем, свързан с използването на ИИ от полицията в Англия. По-рано тази година West Midlands Police беше подложена на остри критики след случая с решението фенове на израелския футболен клуб „Макаби Тел Авив“ да не бъдат допуснати до мач срещу „Астън Вила“ в Бирмингам.

При последвалата проверка стана ясно, че в полицейските материали е била включена информация за несъществуващ мач между „Макаби Тел Авив“ и „Уест Хям“. Тази информация е била генерирана чрез Microsoft Copilot и е била приета като част от по-широка картина за риск от безредици, без да бъде достатъчно проверена. Случаят доведе до официални извинения, парламентарна критика и сериозни въпроси за начина, по който полицията проверява информация, получена чрез изкуствен интелект.

Новото разследване в Дербишър обаче е още по-сериозно, защото не става дума само за грешна справка или лошо проверена информация, а за предполагаемо създаване на доказателствени материали. Разликата е съществена: грешната информация може да доведе до неправилна оценка на риск, но фалшифициран или изкуствено създаден доказателствен материал може пряко да засегне правото на справедлив процес.

Случаят поставя три основни въпроса пред полицията и прокуратурата. Първият е как се проверява произходът на всеки доказателствен материал. Вторият е дали полицейските служители имат ясни правила кога и как могат да използват ИИ. Третият е как съдилищата и адвокатите могат да бъдат сигурни, че материалите, представени по делата, не са генерирани или променени чрез технология, без това да бъде ясно обозначено.

Crown Prosecution Service е независимата прокуратура за Англия и Уелс. Тя взема решения за повдигане на обвинения по редица наказателни дела, представя делата в съда и работи с полицията по време на разследванията.

ИИ халюцинации е термин, използван за случаи, при които генеративни модели създават невярна, измислена или неподкрепена с факти информация, представяйки я като достоверна. Пример за подобен риск е фиктивният мач между „Макаби Тел Авив“ и „Уест Хям“, включен в полицейски материали след използване на Microsoft Copilot.

PoliceAI е национален център за отговорно разработване, тестване и внедряване на изкуствен интелект в полицията в Англия и Уелс. Целта му е да подпомага силите на реда при обработка на данни и доказателства, но и да гарантира, че използването на ИИ отговаря на правни, етични и професионални стандарти.