Цей американський законодавець хоче більш детально вивчити алгоритми, які використовуються в кримінальних судових процесах

Представник Марк Такано (D CA) каже: Права інтелектуальної власності не повинні бути здатними козирувати через належний процес.

AP Photo / J. Скотт Яблуїт

Цей американський законодавець хоче більш детально вивчити алгоритми, які використовуються в кримінальних судових процесах

Автор Катерини МатачичСеп. 23, 2019, 16:10

З моменту його введення у 1980-х рр. Докази ДНК стали «великим стандартом» судових залів США, що призвело до обвинувальних вироків і звільнення від тисяч обвинувачених. Але експерти намагаються проаналізувати деградовані або забруднені зразки, і багато хто почав використовувати складне імовірнісне програмне забезпечення для генотипування, щоб оцінити ймовірність відповідності ДНК підозрюваної ДНК на місці злочину. Такі так звані криміналістичні алгоритми далеко не рідкісні: все частіше вони використовуються для оцінювання відповідності всього - від відбитків пальців до стволів гармати до обличчя на кадрах камер безпеки.

Адвокати в галузі захисту рідко мають доступ до вихідного коду чи іншої інформації, яка б пояснила, як таке програмне забезпечення є частиною власних робіт. Це тому, що компанії побоюються, що це може викрити комерційну таємницю чи інші види інтелектуальної власності. Але непрозорість викликала занепокоєння щодо справедливості та прозорості.

Минулого тижня представник Марк Такано (D CA) запровадив законодавство, яке полегшить підсудним, які стикаються з федеральними кримінальними звинуваченнями, отримати доступ до криміналістичних алгоритмів, а також вимагатиме від виробників обчислювальної криміналістичної програми відповідати мінімальним стандартам, встановленим Національною Інститут стандартів і технологій (НІСТ).

ScienceInsider наздогнав Такано для обговорення нового законопроекту. Це інтерв'ю було відредаговано для стислості та ясності.

Питання: Які проблеми вирішив би цей законопроект?

Відповідь: Що ми знаємо, це те, що люди часто засуджуються з імовірнісними моделями, які є єдиним свідченням справи. Люди можуть бути посаджені до в'язниці, вони навіть можуть втратити своє життя [лише через] цю форму непрямих доказів. І те, що ми також знаємо, - це те, що компанії, які пропонують ці технології, не хочуть відкривати вихідний код або пояснювати багато про основні дані та ставити під сумнів захист. Ми думаємо, що тут існує основна проблема. Права інтелектуальної власності не повинні бути здатними налагодити належний процес.

Питання: Які з цих криміналістичних технологій вас найбільше хвилюють?

A: ДНК-докази [від] імовірнісного генотипувального програмного забезпечення для аналізу ДНК. Має вигляд, що це залізна правда, так само, як багато десятиліть тому тест детектора брехні [робив]. Атрибути науки можуть призвести до [помилкової визначеності] присяжних та суддів. Це повністю доречно і фактично необхідно, щоб присяжні та судді розуміли межі технології та як вона працює.

З: Цей законопроект закликає NIST перевірити криміналістичне програмне забезпечення. Що це було б тестуванням?

Відповідь: Очевидно, вони мали б їх аналітики дивитись на технологію, щоб оцінити, які обмеження є, які є можливості, і [вони] подивитимуться, що наука там говорить про дані та як ці алгоритми працюють. Ми рекомендуємо їм [запитати компанії]: Ви ви перевірили це, чи можете ви показати нам дані? Чи існує показник помилок, який показує непропорційний вплив на меншини, наприклад, меншини виявляються помилково? "Ми вважаємо, що кожен кут слід розглядати з точки зору того, як ці системи можуть вийти з ладу.

З: Що надихнуло цей законопроект?

Відповідь: Я багато говорю про ув’язнення моєї родини під час Другої світової війни та про інтернування в Японії. Який зв’язок там? Це стосується прав на конфіденційність, це стосується належної процедури. У той же час, це допомагає тримати уряд в курсі технологій і допомагає Конгресу розуміти новітні технології. Небезпека полягає в тому, що - незалежно від того, чи це системи для голосування, які виглядають яскравими, блискучими, чи гарні маленькі чорні скриньки, які виплюнули результат - громадяни та присяжні, судді та прокурори та адвокати [не] розуміють, як працюють ці системи.

З: З якими проблемами стикається цей законопроект?

Відповідь: Я думаю, що це загальна проблема намагання привернути увагу членів, колегу та залучення ключових членів підкомітету, щоб підібрати це та зрозуміти основне питання. Я думаю, що це все дуже досяжні речі. Інший бар'єр полягає в тому, що комітет судових органів [Палати представників] наразі багато на своїй тарілці. [Такано мав на увазі розслідування імпічменту проти президента Дональда Трампа.] На даний момент мої перешкоди можуть привернути увагу більшої уваги. Але я думаю ... це випадок, коли американський народ розуміє [потребу], тому [зусилля] можуть бути двосторонніми.