Свернуть поиск
добавлена 7 декабря 2022 в 23:00
Алгоритмы, узаконивающие гонения
Пару дней назад вышла новость, что в Сан-Франциско полицейским дали право на использование роботов с летальным оружием. В очередной раз, люди придумали новый способ убивать друг друга.Может кто-то и верит в рациональное использование этих технологических примочек, но расследование ряда изданий, показывает, что эти рассуждения очень наивны и далеки от реальности.
В период с 18-го по 21-й год каждый 33 житель США подвергся полицейским проверкам по решению компьютерной программы PredPol (искусственный интеллект, система прогнозирования на основе данных и т. д. называть это можно разными названиями но суть остается той же) . Более 6 000 000 прогнозов по потенциальным преступлениям было отправлено в правохранительные органы за тот же период.
PredPol компания, основанная как совместный проект Департамента полиции Лос-Анджелеса и профессора Калифорнийского университета в Лос-Анджелесе Джеффа Брэнтингэма.
PredPol разбивает населенный пункт на сектора размером 500x500 футов (152м на 152м) , затем, по уже имеющейся статистической информации по преступлениям, составляются и обновляются прогнозы в течение дня — своего рода прогноз погоды в отношении преступности.
Проблема заключается в данных, которыми питаются алгоритмы прогнозирования. Во-первых, алгоритмы прогнозирования легко искажаются по уровню арестов. В Америке, вероятность ареста чернокожего в два раза выше чем арест белого человека.
По данным Министерства юстиции США, вероятность ареста более чем в два раза выше, чем если вы чернокожий, чем если бы вы были белым. Чернокожих в пять раз чаще останавливают без причины, чем белых.
Попав один раз в эту статистику, человек навсегда может стать для бессердечного алгоритма проблемой, на решение которой будет периодически в его район посылаться полиция города. И по статистике, кого чаще проверяют, того чаще и обвиняют, несмотря на статистически равную вероятность совершения злодеяния среди всех социальных и демографических групп. Это своего рода самоисполняющееся пророчество.
Данные об арестах программируют шаблоны расистского поведения полицейских. В результате, они с большей вероятностью предскажут высокий потенциал преступности в районах проживания меньшинств или среди меньшинств. Даже когда данные об арестах и преступности совпадают, существует множество социально-экономических причин, по которым некоторые группы населения и некоторые районы имеют более высокий исторический уровень преступности, чем другие. Подача этих данных в инструменты прогнозирования позволяет прошлому формировать будущее.
По этому поводу хорошо выразилась Дороти Робертс, писательница, профессор Университета Джорджа Вайса сказав: «Расизм всегда был связан с прогнозированием, о том, чтобы определенные расовые группы выглядели так, как будто они предрасположены делать плохие вещи, оправдывая контроль над ними».
Все дошло до того, что в 2020 году более 1400 математиков из США написали гневное письмо с призывом к своим коллегам прекратить сотрудничество с полицией из-за множества задокументированных инцидентов того, как правоохранительные органы США обращаются с людьми разных рас и этнических групп.
Злоупотребления, коррумпированность и сговор среди правоохранителей давно известная вещь. Причем американцы активно снимают художественные фильмы по этим делам. Последнее что я смотрел, биографический фильм «Черная месса» с Джонни Деппом, которая хорошо показывает как детская связь сотрудника ФБР с гангстерами и его желание хорошо жить сохранила на долгие годы ирландскую мафию в Бостоне. Это реальная история, и таких очень много. И эти, изначально скомпроментированные данные лягут в основу статистических прогнозов по преступлениям.
Сторонники компьютерного прогнозирования аргументируют свое решение как ни странно той же борьбой с предрасположенностью в принятии решений. Они считают что что алгоритмы могут быть более справедливыми, чем лица, принимающие решения, или по крайней мере, сделают несправедливость явной. Приводятся примеры предвзятости судей в принятии решений, в частности, выявилось, что в одном из штатов, судьи в среднем тратят до 30 секунд на рассмотрение дела о досудебном освобождении. И искусственный интеллект может сделать подобные решения более взвешенными.
Что в итоге?
Спустя несколько лет использования программы PredPol, под давлением общественности и научного сообщества, программы по построению прогнозных моделей преступности в американских штатах начали сворачивать.
Чикагская полиция оценила риски и пришла в выводу, что данные являются ненадежными и потенциально могут привести необоснованно суровым последствиям. Они отказались от программы.
Первый последователь PredPol — полиция Лос-Анджелеса также свернула свою деятельность по данному направлению. Причиной стало то, что они даже не смогли оценить ее эффективность.
Некоторые города, такие как Санта-Круз ввели запрет на действия в отношении граждан на основании прогнозирования преступлений.
Смитсоновский журнал в 2018 году заявил, что ни одно независимое опубликованное исследование никогда не подтверждало заявления PredPol о точности своего программного обеспечения.
Лично у меня, как человека связанного с менеджментом и IT конечно возникает вопрос: сумев построить такую систему, неужели служители закона не проводили тестовые работы по качеству и эффективности выдаваемых прогнозов? Не пытались на основе тестов сделать более точные модели?
Что погубило проект? Бюрократия? Предвзятость? Или целенаправленная программа по контролю меньшинств? Ответ у каждого свой. Но лично мне все меньше хочется такого будущего, где алгоритм на основе неверных данных будет бессердечно преследовать меня по холодному расчету.
1 комментарий
3 раза поделились
4 класса
- Класс!0
добавлена 30 октября 2022 в 22:37
05:31
4 комментария
3 раза поделились
5 классов
- Класс!0
добавлена 30 октября 2022 в 22:29
00:41
2 комментария
2 раза поделились
4 класса
- Класс!0
добавлена 24 сентября 2022 в 19:15
добавлена 20 сентября 2022 в 21:49
00:14
0 комментариев
4 раза поделились
6 классов
- Класс!1
добавлена 15 сентября 2022 в 23:26
- Класс!6
добавлена 15 сентября 2022 в 19:33
- Класс!1
добавлена 5 сентября 2022 в 08:32
2 комментария
3 раза поделились
6 классов
- Класс!0
добавлена 2 сентября 2022 в 15:56
Китайская компания назначила ИИ генеральным директором
Компания по производству мобильных игр NetDragon Websoft, которая находится в Китае, назначила виртуального человека с искусственным интеллектом Тан Ю генеральным директором.Назначение состоялось 26 августа, и госпожа Тан Ю, виртуальный генеральный директор, приступила к своей работе в дочерней фирме компании, Fujian NetDragon Websoft.
Тан Ю будет принимать решения по вопросам повседневной деятельности компании. Предполагается, что такая модель позволит улучшить управление рисками. Также ИИ будет использоваться для обработки данных в режиме реального времени и формирования аналитики для совета директоров.
- Класс!4
добавлена 31 августа 2022 в 20:43
- Класс!0
добавлена 16 апреля 2022 в 20:09
Через 10 лет нас ждёт очередной экономический прорыв? Волны Кондратьева
Волны Кондратьева, они же суперциклы, или К-волны — циклические явления мировой экономики, тесно связанные с жизненным циклом технологий. Теорию изобрёл советский экономист Николай Кондратьев в 1920-х годах. Сразу поясню, что она не котируется большинством экономистов, а среди её сторонников нет единого мнения о причине волн и годах их начала и окончания. Однако сама по себе она крайне любопытная. Суть Период волны колеблется от сорока до шестидесяти лет, циклы состоят из чередующихся интервалов высокого отраслевого роста и интервалов медленного роста. Также они связаны с ростом цен и движением ключевых ставок. На растущем тренде растут цены, а кредиты дешёвые и на ниспадающем тренде — наоборот. Сами же волны или технологические циклы по датам обозначаются так: — Промышленная революция (1771 г.) — Эпоха пара и железных дорог (1829 г.) — Эпоха стали и тяжелого машиностроения (1875 г.) — Эпоха нефти, электричества, автомобилей и массового производства (1908 г.) — Эпоха информации и телекоммуникаций (1971 г.) Замечаете последовательность? Кстати, сторонники теории выделяют три огромных периода, каждый из которых в корне изменил мировую экономику. Первый — обработка материалов (камень, бронза и железо). Второй — промышленная революция, преобразование воды в пар и электричество, двигатели внутреннего сгорания, массовое производство и т.д. Третий — преобразование информации, распространение связи и передачи данных. Вот и получается, что согласно теории Кондратьева сейчас мы подходим к новой границе — волне постинформационной технологической революции: интернет вещей/переход к возобновляемым источникам энергии, искусственный интеллект. Сейчас эти технологии находятся в зародышевом состоянии, но через 10-15 лет могут навести шороху в нашей бытовой и экономической жизни.0 комментариев
1 раз поделились
6 классов
- Класс!2
добавлена 11 апреля 2022 в 09:47
Китай создал роботов для выращивания детей в искусственных матках
Исследователи из Китая разработали роботизированную систему с искусственным интеллектом для ухода за эмбрионами в искусственной утробе матери. Робот-няня уже воспитывает несколько зародышей, но не людей, а пока только животных. Исследователи, опубликовавшие свои результаты в Journal of Biomedical Engineering, заявили, что намерены разработать технологию, которая позволит родителям выращивать ребенка в лаборатории, освободив женщин от беременности. Ученые сказали, что робот намерен "оптимизировать и улучшить систему культуры эмбрионов", и добавили, что хотят создать "систему онлайн-мониторинга", предназначенную для "долгосрочной культуры эмбрионов". Согласно исследованию, система также позволяет эмбрионам расти более эффективно, чем в естественной утробе матери. В докладе также говорится, что "остается еще много неразгаданных тайн о физиологии типичного эмбрионального развития человека". Создание такой технологии также поможет понять происхождение жизни и "эмбрионального развития человека", а также даст ответы на решение проблемы врожденных дефектов и других серьезных проблем репродуктивного здоровья." Доцент права Нира Бхатия и биоэтик Эви Кендал написали в статье для журнала The Conversation, что искусственные матки могут помочь выжить недоношенным детям. Они написали: "В настоящее время у тех, кто родился до 22 недель беременности, практически нет надежды на выживание. А те, кто родился в 23 недели, скорее всего, будут страдать от целого ряда заболеваний". Использование герметичного "био-бака", имитирующего материнскую утробу, может помочь недоношенным детям выжить и улучшить качество их жизни". Они также напомнили об эксперименте, в ходе которого группа неонатологов в 2017 году успешно выращивала ягнят в искусственной матке в течение четырех недель. Предыдущие попытки вырастить эмбрионы были успешными, но только в течение нескольких часов. Однако врачи Детской больницы Филадельфии смогли поддерживать зародыш ягненка в течение 28 дней. Система, используемая для поддержки плода ягненка, выглядела как огромный мешок на молнии, наполненный амниотической жидкостью. Директор Центра исследований плода Алан Флейк сказал изданию Huffington Post: "Если наша система окажется столь успешной, как мы ожидаем, то в конечном итоге большинство беременных, которым прогнозируется риск крайней недоношенности, будут доставляться в систему, поддерживающую их в погруженном состоянии без использования аппарата искусственной вентиляции легких".0 комментариев
2 раза поделились
7 классов
- Класс!0
загрузка
Показать ещёДополнительная колонка
Правая колонка