Расследование деятельности загадочной компании Palantir

В 2013 году Новый Орлеан занимал шестое место по уровню преступности в США. Тогда окружной прокурор города обвинил в вымогательстве около десяти человек, предположительно — членов дилерских банд «3NG» и «the 110ers». Им вменяли в вину 25 убийств, ряд покушений на жизнь и серию разбойных нападений.

После этого приговора Управление по контролю за оборотом алкогольных напитков, табачных изделий, огнестрельного оружия и взрывчатых веществ совместно с ФБР и местными агентствами провели расследование, которое вылилось в новую волну задержаний. В том числе, обвинения в незаконной продаже наркотиков и совершении нескольких убийств были предъявлены 22-летнему Эвансу «Раз плюнуть» Льюису, члену банды «the 39ers».
По словам Ронала Серпаса (на тот момент — начальника городской полиции), личности членов банд вроде «3NG» и «the 39ers» были установлены в частности благодаря разработкам стартапа Palantir, базирующегося в Кремниевой долине. Компания предоставила полиции Нового Орлеана программное обеспечение для отслеживания связей горожан с уже установленными членами банд. Полицейские смогли анализировать их уголовное прошлое и активность в социальных сетях, а также прогнозировать вероятность совершения преступлений ими или в отношении них. В рамках процедуры сбора и изучения доказательств по делу Льюиса сторона обвинения предоставила более 60 000 страниц документов с описанием собранных против ответчика показаний анонимных осведомителей, а также других косвенных улик — однако нигде не упоминалось о сотрудничестве полиции и Palantir.

Реализация проекта началась в 2012 году в форме сотрудничества между полицией Нового Орлеана и Palantir Technologies — компанией по анализу данных, которая была основана на деньги венчурного фонда ФБР. Как следует из оказавшихся в распоряжении The Verge документов и интервью, новоорлеанский проект был предложен полицией в рамках программы по предупреждению преступности. Схожая инициатива реализуется в Чикаго в форме «списка риска». Этот список создан в попытке оценить склонность человека нарушить правила дорожного движения или совершить преступление сексуального характера.

Договор о партнерстве продлевался трижды; дата завершения действующего соглашения — 21 февраля 2018 года. Администрация Нового Орлеана и представители Palantir так и не ответили на вопросы относительно текущего статуса программы.

Во всех городах технология прогнозирования преступлений вызвала волну споров о ее применении, однако в Новом Орлеане проекту удалось избежать внимания общественности — отчасти потому, что Palantir оформила отношения с полицией как одно из направлений благотворительной программы по развитию города «NOLA for life», которую вел мэр Митч Лэндрю. За счет этого статуса, а также благодаря модели «сильного мэра», присущей Новому Орлеану, компании даже не пришлось оформлять заявку на участие в программе госзакупок.

«Никто в Новом Орлеане понятия об этом не имеет»
На деле ни один из ключевых членов городского совета из тех, с кем удалось связаться The Verge, не знал о существовании партнерства городских властей и Palantir — и уж тем более они не знали, что Palantir использовала Новый Орлеан в качестве полигона для демонстрации своих возможностей, чтобы заключить многомиллионный контракт с другим силовым ведомством.

Даже Джеймс Карвилл — полицейский чиновник, ответственный за заключение соглашения с Palantir — заявил, что сведения о программе не должны были стать достоянием общественности. «Насколько мне известно, никто в Новом Орлеане понятия об этом не имеет», — заявил Карвилл.

Спустя более чем десять лет после начала партнерства между компанией и властями Нового Орлеана Palantir запатентовала по меньшей мере одну систему прогнозирования преступной активности и начала поставлять разведывательным службам других государств схожее программное обеспечение для определения склонности граждан к совершению терактов.

Даже в профессиональном полицейском сообществе ведется дискуссия относительно потенциальных ограничений гражданских свобод при использовании системы от Palantir. Нет единого мнения и насчет приемлемости подобных проектов для американской системы уголовного правосудия.

«Эту систему нельзя назвать подходящей для местных и федеральных правоохранительных органов»
«Они создают список подозреваемых, но ведь мы боремся не с формированиями Аль-Каиды в Сирии», — заявил бывший чиновник органов правопорядка, который непосредственно контактировал с Palantir и присутствовал на презентации системы. Он согласился побеседовать с изданием на условиях анонимности, чтобы свободно поделиться своими опасениями насчет машинного анализа данных и предупредительной деятельности правоохранительных органов.
«Palantir — яркий пример того, как можно потратить безумные деньги на систему, которой можно найти применение на практике, но которая не подходит местным и федеральным органам правопорядка», — пояснил бывший чиновник.

Шесть лет назад одна из наиболее скрытных и влиятельных в своей области технологических компаний разработала неоднозначную технологию полицейской разведки в городе, который со времен урагана «Катрина» служил испытательной площадкой для любых экспериментов — от школ с собственным уставом до радикальной жилищной реформы. Поскольку информация о сборе данных нигде не публиковалась, важные вопросы относительно источников ее финансирования, соответствия законодательству и этичности остались без ответа.

Palantir Technologies в 2004 году основали Александр Карп и Питер Тиль (последний владеет крупнейшей долей акций стартапа). За короткий срок компания стала одной из самых дорогих в Кремниевой долине. Стремительный рост Palantir связан с заключением ряда прибыльных контрактов с Пентагоном, а также национальными и зарубежными разведывательными службами. В последние несколько лет Palantir с переменным успехом предпринимала попытки перевести свою деятельность по синтезу и анализу данных в частный сектор.

Palantir не впервой заниматься прогнозами. Начиная как минимум с 2009 года компания помогала Пентагону определять местоположение самодельных взрывных устройств в Афганистане и Ираке в рамках программы оценки рисков. Поскольку проект реализовывался в период проведения военных действий, компании можно было не беспокоиться о проблемах соблюдения гражданских свобод, которые неизбежно возникают при использовании технологий профилактики преступлений. По сведениям некоторых источников, коммерческое подразделение Palantir, Metropolis, также использует технологии прогнозирования для стимулирования потребительских рынков и управления инвестициями. Однако до 2012 года мы не обнаружили доступных сведений относительно участия Palantir в проектах профилактики преступлений.

Интерес к предотвращению преступлений и инвестиции в эту сферу стали расти после 2009 года, когда Национальный институт юстиции начал предоставлять гранты на осуществление проектов по прогнозированию правонарушений. Благодаря этому финансированию были созданы некоторые из наиболее успешных — и наиболее спорных — программ предотвращения преступлений в Чикаго и Лос-Анджелесе. Используемые в них алгоритмы зачастую запатентованы разработчиками, однако работают по общему принципу: собрать максимальное количество доступных данных (местоположение, сведения о судимостях, погодные условия, активность в социальных сетях) и на их основе построить предположения относительно того, какие люди или объекты могут оказаться замешаны в преступлении. В последующие несколько лет многие стартапы пытались монетизировать технологии борьбы с преступностью: в частности, стоит упомянуть PredPol, калифорнийский проект, которому не удалось сохранить клиентов, даже несмотря на активную рекламную кампанию в начале этого десятилетия.

Вплоть до 2012 года нет никаких сведений относительно участия Palantir в проектах предупреждения преступлений.

Пока все больше департаментов и компаний вовлекались в деятельность по предотвращению преступлений, в рамках спонсируемого государством исследования были высказаны сомнения относительно эффективности методики. Независимые ученые установили, что программы прогнозирования преступлений могут крайне негативно повлиять на жизнь расовых меньшинств. В ходе опубликованного в 2016 году исследования был реконструирован алгоритм Palantir. В результате моделирования специалисты пришли к выводу, что технология воспроизводила «системную предвзятость» в отношении дискриминируемых полицией расовых общин, а также заключили, что информация о совершенных преступлениях не всегда гарантирует точность прогноза. Один из исследователей, аспирант Мичиганского университета Уильям Айзек, раньше никогда не слышал о совместном проекте новоорлеанских властей и Palantir, но сразу узнал модель, лежащую в основе программы. «Я сомневаюсь, что у информации, которую они используют, такая уж значительная сила прогнозирования. Пока она не привела к предотвращению особо жестоких преступлений», — заявил Айзек.

Согласно оказавшимся в распоряжении The Verge документам, первые контакты Palantir и администрации Нового Орлеана произошли в 2012 благодаря посредничеству Джеймса Карвилла, известного посредника в этой области. При этом Карвилл — центральная фигура Демократической партии и автор успешной президентской кампании Билла Клинтона на выборах 1992 года. Он консультирует Palantir с 2011 года.

«Я — единственная движущая сила этого проекта»
В одном из интервью Карвилл сообщил The Verge, что именно его вмешательство послужило стимулом к сотрудничеству между Palantir и властями Нового Орлеана. «Я — единственная движущая сила этого проекта. Это целиком и полностью моя идея», — заявил Карвилл, добавив, что он и генеральный директор Palantir Алекс Карп прилетели в Новый Орлеан, чтобы встретиться с мэром Лэндрю. «Для меня это вопрос морали. Молодежь гибла в перестрелках, а общественность не реагировала должным образом».

Документы, регламентирующие отношения между Palantir и администрацией Нового Орлеана, характеризуют деятельность компании как «безвозмездную» и филантропическую. В 2015 году Palantir внесла сотрудничество с новоорлеанскими властями в свой ежегодный отчет по общественно-полезной деятельности под видом коллективного «анализа социальных сетей» для органов правопорядка и членов администрации города.

Интервью четырехлетней давности, которое Карвилл дал городской радиостанции «Bay Area», проливает свет на формирование партнерства между Palantir и властями. В январе 2014 года на ток-шоу «Форум» Карвилл и его жена Мэри Мэталин с похвалой отзывались о работе Palantir в Новом Орлеане и говорили об этом как об одной из причин уже двухлетнего спада преступности в городе.

«Генеральный директор Palantir Алекс Карп сказал, что они хотели заняться благотворительностью, и что мне сразу пришло на ум? Я сказал, что у нас, в Новом Орлеане, ужасно высокий уровень преступности», — рассказал Карвилл ведущему шоу Майклу Красни, не упомянув о своей оплачиваемой должности в компании.

«Так что он приехал и встретился с нашим мэром … Оба считают аморальной ситуацию, когда молодежь убивает своих ровесников, а общество не хочет ничего делать. И мы смогли — не потратив ни цента из городского бюджета — начать сбор информации, начали прогнозировать правонарушения и вмешиваться в ситуации, грозившие перерасти в преступления. За период работы проекта уровень преступности снизился почти на треть».

Мэталин, также политический консультант, в интервью Красни дала понять, что услуги по прогнозированию, которые Palantir предоставляла новоорлеанской полиции, были прототипом, но при этом могли в теории привести к арестам невинных граждан.

«Если вы не приходитесь кузеном какому-нибудь попавшему за решетку наркоторговцу, с вами все будет в порядке»
Ронал Серпас, глава новоорлеанской полиции с 2010 по 2014 год, рассказал нам об обстоятельствах первого контакта с представителями Palantir. Это произошло в рамках встречи, инициированной администрацией мэра Лэндрю. «Они связались со мной и предложили услуги вроде тех, что они предоставляют на территории вооруженных конфликтов в других частях света» — рассказал Серпас в ходе интервью, проходившего в его кабинете в Университете Лойолы. «У меня сложилось впечатление, что представители Palantir были заинтересованы в разработке технологий прогнозирования преступлений».

Отношения между городом и стартапом приобрели официальный характер 23 февраля 2012 года — в день подписания контракта, который предоставил Новому Орлеану бесплатный доступ к платформе интеграции данных от Palantir. По результатам проведенной полицейским департаментом Лос-Анджелеса аудиторской проверки, стоимость лицензий и технической поддержки этой платформы может достигать миллионов долларов ежегодно.

В январе 2013 года администрация Нового Орлеана также предоставила Palantir доступ к базе Accurint от компании LexisNexis, содержащей миллионы архивных и судебных записей, водительских удостоверений, адресов, телефонных номеров и данных из социальных сетей. Компания получила бесплатный доступ к личным делам осужденных и никогда не привлекавшихся к ответственности горожан, что должно было помочь проекту усовершенствовать технологию.

Ни жители Нового Орлеана, ни ключевые члены городского совета, в чьи обязанности входит контроль над использованием такого рода информации, не были поставлены в известность относительно доступа Palantir к этим данным.

Palantir — очень скрытная компания, а Новый Орлеан — не единственный пример ее сотрудничества с городскими структурами при посредничестве дочерних некоммерческих организаций, позволяющих избежать участия в конкурсе на госзакупки.

Palantir предоставляет услуги по анализу и синтезу информации полицейскому департаменту Лос-Анджелеса, однако соответствующее соглашение было заключено не с самой полицией, а с Ассоциацией полицейских Лос-Анджелеса. В случае с нью-йоркской полицией контракт не был зарегистрирован в городском реестре из соображений безопасности (так поступают и с контрактами на поставку оборудования для слежки) и не был утвержден городским советом. Информация о сотрудничестве Palantir с нью-йоркской полицией стала достоянием общественности лишь после того, как документы, подтверждающие наличие связи между компанией и крупнейшим полицейским департаментом страны, попали в распоряжение журналиста BuzzFeed Уильяма Олдена.

По данным The Verge, в Новом Орлеане о проекте знали только в администрации мэра Лэндрю, полиции города и в офисе прокурора. Ключевые члены городского совета не были в курсе соглашения до встречи с репортерами издания.

Партнерство с Palantir могло бы стать предметом пристального внимания городского совета, если бы оно было включено в бюджет отдельной статьей, но программы такого рода не нуждаются в одобрении совета. Вертикаль власти в Новом Орлеане выстроена по модели «сильного мэра»: у совета нет полномочий по утверждению контрактов или плана действий городской полиции.

Городские власти по всей стране все чаще сталкиваются с вопросом, нужно ли — и если да, то каким образом — предоставлять муниципальным органам полномочия по регулированию обмена информацией и обеспечению ее конфиденциальности. В некоторых городах, как, например, Сиэтле и Окленде, в местное законодательство были внесены поправки, которые предусматривают создание комитетов, ответственных за разработку планов развития и контроль за их выполнением. Тем не менее остальные города — и в том числе Нью-Йорк — по-прежнему обсуждают, какую роль должны играть городские советы при обеспечении конфиденциальности в век цифровых технологий.

Ряд адвокатов по уголовным и гражданским делам, тесно связанных с новоорлеанской правоохранительной системой, также не были поставлены в известность относительно реализации программы предотвращения преступлений. Адвокаты по уголовным делам никогда не видели отчетов о деятельности Palantir среди материалов, которые обвинение предоставляло в ходе судебного процесса, хотя они должны быть переданы стороне защиты, если использовались в расследовании.

По просьбе The Verge Джейсон Уильямс, президент городского совета Нового Орлеана и бывший адвокат, ознакомился с документами о сотрудничестве между Palantir и городской полицией. «Не думаю, что кто-нибудь в совете мог бы сказать, что они знали о заключении контракта, поскольку финансирование проекта никогда не входило в подконтрольную нам сферу», — заявил он на заседании совета.

Уильямс, до своего избрания в городской совет в 2014 году занимавший должность судьи по уголовным делам, добавил, что он не назвал бы себя непримиримым противником использования методов анализа информации в целях помощи социально незащищенным горожанам.

«Меня больше беспокоит, как эти технологии используются в моем городе. Если выяснится, что система использовалась для определения наиболее уязвимых слоев населения, которым угрожает риск стать жертвами насилия, у меня будет абсолютно другое отношение к проекту, чем если выяснится, что технология использовалась в сомнительных целях».

«Выглядит так, будто Новый Орлеан создавал собственную версию Агентства национальной безопасности»
Сьюзан Гидри, с 2010 года возглавляющая комитет криминальной юстиции городского совета Нового Орлеана, также не знала о работе с Palantir. Ознакомившись с предоставленными The Verge документами, Гидри заявила, что никогда их до этого не видела.

The Verge отправила копии документов ряду новоорлеанских активистов, специализирующихся на защите гражданских прав. Никто из них раньше не слышал о программе — хотя до одного из них доходили слухи о сотрудничестве полицейского департамента с Palantir. Все они были озадачены высоким уровнем секретности проекта.

«Особенно тревожно, что граничащий со вмешательством в личную жизнь анализ активности обычных граждан превратился в секретную операцию», — заявил Джим Крейг, директор луизианского отделения Центра юстиции имени Родерика и Соланж Макартур. Крейг, ознакомившись с предоставленными The Verge документами, сравнил инициативу по предотвращению преступлений с работой разведки.

«Выглядит это так, будто Новый Орлеан создает свою собственную версию Агентства национальной безопасности, чтобы непрерывно контролировать жизнь горожан», — отметил он. По его мнению, власти предпочли засекретить проект, чтобы избежать волны негодования со стороны граждан. «На сегодняшний день люди активно выступают против камер дорожного движения и даже не подозревают, что в городе реализуется проект по сбору личных данных», — пояснил Крейг. «Юг страны по-прежнему остается регионом, где жители очень ценят конфиденциальность».

Николас Корсаро и Робин Энгель — профессора из университета Цинциннати — недавно опубликовали исследование, посвященное оценке эффективности стратегии снижения уровня преступности в Новом Орлеане, одним из инструментов которой было сотрудничество с Palantir. Они также участвовали в создании базы городских банд, которой пользуется Palantir. Ни Энгель, ни Корсаро не знали ни о программе предотвращения преступлений и сотрудничестве с Palantir, ни даже о том, что разработанная ими база данных легла в основу программы. «Пытаться предсказать, кто чем будет заниматься, основываясь на прошлогодних данных — полная херня», — заявил Корсаро в одном из интервью.

Представители Palantir иногда упоминали о своей работе в Новом Орлеане. Тем не менее ни одна из доступных презентаций компании, с которыми удалось ознакомиться The Verge, не содержала деталей относительно индивидуализированной системы определения вероятности совершения преступления, как не было и информации об использовании и анализе данных из социальных сетей в целях прогнозирования преступлений. Напротив, компания описывала свою деятельность в Новом Орлеане как «изучение статистики совершения особо жестоких преступлений и разработка стратегии точечного воздействия с целью защиты наиболее уязвимых слоев населения города».

Специалистка по гражданским правам Кортни Боуман, активно участвующая в обеспечении партнерства между Palantir и городской полицией, в ходе публичного выступления высоко оценила эффективность работы компании в Новом Орлеане, но признала, что чрезмерная закрытость проекта может усугубить разрыв между правоохранительными органами и общинами, чувствующими необоснованное давление со стороны полицейских.

На состоявшейся 6 мая 2016 года презентации компании (в рамках проводившейся в Высшей школе информации Беркли конференции Data Edge) Боуман заявила: «Такие программы могут быть эффективными только при условии, что общество согласно с тем, какие сферы его жизни будут подвергнуты анализу, а также осведомлено о том, как именно будет использована полученная информация».

Ни администрация Нового Орлеана, ни Palantir не прокомментировали, как сформировалось их партнерство и какого рода информация, представляемая должностными лицами и обществом, применяется для прогнозирования.

Ронал Серпас, возглавлявший полицию Нового Орлеана в начале сотрудничества с Palantir, поделился, что сам он был убежден в необходимости поставить в известность муниципалитет и широкую общественность о решении полиции развернуть программу по предупреждению преступности. Роль местных законодательных и управляющих органов в надзоре над предоставлением доступа к государственным данным еще не урегулирована. Однако Серпас уверен, что сотрудничество с компаниями вроде Palantir обеспечит более тщательный контроль. «На мой взгляд, это несомненно требует оценки и взгляда со стороны», — утверждает Серпас.

Несмотря на то, что ни сотрудники Palantir, ни должностные лица Нового Орлеана не хотят разглашать механизм повседневной деятельности программы, полученные The Verge документы, внешние исследования, а также воспоминания бывшего главы Серпаса позволяют обрисовать схему работы этого бета-теста на протяжении последних шести лет.

Прогнозирующая модель компании в Новом Орлеане использовала метод анализа социальных сетей для установления связей между людьми, местами, автомобилями, оружием, адресами, постами и прочими зацепками среди прежде разрозненных баз данных.

Можно представить такой анализ как практичную версию схем Марка Ломбарди, изображающих связи между людьми, местами и событиями. После ввода запроса — вроде части номерного знака, никнейма, адреса, номера телефона, имени или поста в соцсети — полицейский изучает информацию, собранную Palantir и на основании связей с известными жертвами и преступниками определяет, кто с большей вероятностью совершит преступление или пострадает от него.

Данные собирали из социальных сетей, а также из криминалистических баз по баллистическим экспертизам, преступным группировкам, условным приговорам и условно-досрочным освобождениям, телефонным звонкам из тюрем, из базы центральной системы судопроизводства (то есть всех задокументированных полицией дел) и из хранилища протоколов полиции. Последняя база данных представляет собой все задокументированные беседы полиции с гражданами, включая те, что не привели к задержаниям. По сообщению The Times-Picayune, в 2010 году по указу главы полиции Серпаса протоколы были признаны показателем эффективности работы сотрудников полиции, что привело к заполнению свыше 70 000 протоколов в 2011 и 2012 годах.

Эта практика напоминала полицейский подход «Останови и обыщи» в Нью-Йорке и была внедрена с целью сбора как можно большего объема информации о жителях Нового Орлеана, вне зависимости от того, совершали ли они преступления.

Часть номерного знака автомобиля, никнейма, адреса, телефонного номера, имени в соцсети
Затем полиция использовала сформированный Palantir список потенциальных жертв и нарушителей закона, чтобы следить за частными лицами в рамках городской программы прекращения огня. Программа прекращения огня — это форма многолетней политики кнута и пряника, разработанной профессором Дэвидом Кеннеди из Колледжа имени Дж. Джея в Нью-Йорке. В ходе этой программы правоохранительные органы информируют потенциальных нарушителей с уголовным прошлым о том, что им известно их прошлое и в случае рецидива их привлекут к ответственности с максимально строгим наказанием.

Если субъекты согласятся сотрудничать, их приглашают на обязательную встречу в рамках условно-досрочного освобождения, где им предложат профессиональное обучение, образование, потенциальное трудоустройство и услуги здравоохранения. Программа прекращения огня в Новом Орлеане реализуется под началом организации «Новый Орлеан для жизни» («NOLA For Life») — а это, в свою очередь, проект мэра города Лэндрю, финансируемый за счет многомиллионных пожертвований частных лиц.

По данным Серпаса, изначально с 2013 по 2015 годы анализ социальных сетей в Новом Орлеане осуществлялся Джеффом Ашером, бывшим агентом разведки, пришедшим в полицию из ЦРУ. Если кого-то убивали из огнестрельного оружия, Ашер применял программное обеспечение Palantir с целью поиска лиц, связанных с жертвой по данным социальных сетей или протоколов. «Этот анализ выявляет имена и связи между людьми в карточках протоколов, при обысках автомобилей, связывая жертв преступлений, каким бы ни было дело. Информация такого рода бесценна для следствия», — утверждает Серпас.

Согласно собственной документации Palantir, Ашер и его коллеги проводят анализ социальных сетей всех жертв, как погибших, так и пострадавших в ходе перестрелок в Новом Орлеане с 2011 по 2013 годы. С помощью этого метода, который Ашер прозвал «Моделью Нового Орлеана», полиция сформировала список из 3900 человек, подверженных наибольшему риску вооруженного насилия из-за их связи с бывшими нападавшими или их жертвами. «Мы можем установить 30-40% будущих жертв стрельбы», — утверждает Ашер на внутренней конференции Palantir в 2014 году. Он отклонил многократные предложения дать интервью.

«Модель Нового Орлеана»
Предположительно на подход Ашера в значительной степени повлияло исследование Эндрю Папахристоса, профессора Йельского университета, который отслеживал распространение насилия словно инфекционного заболевания по сети ассоциаций. Тем не менее, поскольку на его работы в качестве научного обоснования ссылались модели PredPol и департамента полиции Чикаго, Папахристос постарался обособить свое исследование от этих методов.

После формирования списка потенциальных преступников и их жертв департамент полиции и сотрудники социальных служб выбирали тех, кто либо содержался под стражей, либо находился под судебным надзором, чтобы назначить им встречу — это был «пряник» от «NOLA For Life».

Мэрия Лэндрю зачастую рекламировала программу, преподнося ее в качестве неотъемлемого элемента политики в области уголовного правосудия Нового Орлеана. Palantir также приписывала себе заслуги: «Мы помогаем разрушить круг насилия в Новом Орлеане», — сообщала статья в техническом отчете о благотворительности компании в 2015 году. Однако реальный вклад компании не совсем ясен.

Из 308 человек, принявших участие во встречах с октября 2012 по март 2017 года, семеро окончили профессиональное обучение, девять — получили трудовой опыт, однако ни один не получил диплом вуза или аттестат о среднем образовании. 32 участника были время от времени трудоустроены по направлению, а 50 — были задержаны. Еще двое умерли.

В то же время правоохранительные органы активно преследовали свои цели по программе. С ноября 2012 года (тогда был сформирован новый межведомственный департамент по борьбе с организованной преступностью) по март 2014 года резко возросло число обвинений в вымогательстве: согласно внутренним данным Palantir, 83 предполагаемых члена из восьми банд были осуждены на сроки до 16 месяцев.

Власти города составили список из 3900 человек, подверженных наибольшему риску вооруженного насилия.

Количество встреч с вероятными преступниками резко сократилось спустя первые несколько лет. Согласно данным муниципалитета, в период с 2012 по 2014 годы состоялось восемь групповых встреч, и лишь три — в следующие три года. Роберт Гудман, выходец из Нового Орлеана, ставший общественным активистом после тюремного заключения за убийство, работал «респондентом» в городской программе по прекращению огня до августа 2016 года, препятствуя вовлечению людей в ответное насилие.

Со временем Гудман заметил акцент программы на «кнуте» и сильный контроль над ее поощрительным аспектом со стороны муниципалитета, что, по его мнению, подрывает все предпринятые усилия. «Программа должна осуществляться людьми вроде нас, а не диктатурой мэрии. До тех пор, пока средства не направят в нужное русло, ничего не изменится. Это как мертвому припарки», — утверждает он.

Спустя первые два года сотрудничества полиции с Palantir наблюдался резкий спад количества убийств и вооруженных нападений, однако успех был кратковременным. Даже бывший глава полиции Серпас уверен, что превентивный эффект от организации встреч с десятками лиц, относящихся к группе риска, — и от обвинений в их сторону — начал спадать.

Ник Корсаро, профессор Университета Цинциннати, который помогал полиции Нового Орлеана в формировании базы данных преступных группировок, также работал и над оценкой стратегии по прекращению огня. Он выяснил, что хоть в целом сокращение числа убийств и совпало с временем реализации программы, в центральных районах города, на которые нацелена эта программа, «не наблюдалось статистически значительного сокращения, соответствующего старту программы в ноябре 2012 года».

Проще говоря, исследование не подтвердило заявлений Palantir и городских властей о том, что именно их вмешательство в частную жизнь граждан для анализа данных привело к временному сокращению насильственных преступлений.

Хотя встречи с вероятными преступниками и перестали проводиться, электронные письма, полученные сотрудниками нашего издания, указывали на то, что отделение полиции Нового Орлеана продолжило использовать программу Palantir для обеспечения правопорядка. Компания отклонила все просьбы прокомментировать ситуацию, однако письма показали, что в компании знали о возможных рисках применения прогнозирующих алгоритмов и о шумихе, которая вокруг этого поднялась.

23 мая 2016 года специалистка по обеспечению неприкосновенности гражданских свобод в Palantir Кортни Боумен ответила на запрос криминалиста из отдела полиции Нового Орлеана Зака Донини о том, может ли Palantir помочь в создании системы для определения вероятности совершения преступления или риска оказаться его жертвой.

«У меня есть серьезные сомнения по поводу введения подобной рейтинговой системы», — писала Боумен. «Именно из-за этого система полиции Чикаго подверглась резкому осуждению со стороны общественности», — продолжает Боумен, ссылаясь на две статьи, критиковавшие прогнозирующий подход полиции Чикаго.

«Растущие опасения связаны с тем, что непрозрачный алгоритм заменяет более цельную и качественную оценку виновности человека на видимость количественной достоверности», — считает Боумен. «Одно из реальных преимуществ нашей работы по анализу социальных сетей заключается в том, что машина еще не полностью заменила человека. Таким образом, мы можем быть уверены, что соцсети просматриваются и анализируются с достаточной серьезностью».

Не обращая внимания на постоянное снижение количества убийств в Новом Орлеане, Palantir воспользовался связями с отделом полиции Нового Орлеана для заключения крупных контрактов с другими американскими городами. Позже компания получила прибыльные контракты на создание прогнозирующих программ от правительств других стран.

Согласно обнаруженным электронным письмам, в конце 2013 года сотрудники отдела продаж Palantir обратились в отделение полиции Чикаго с предложением купить прогнозирующее программное обеспечение, проверенное в Новом Орлеане, за три миллиона долларов. С помощью нескольких федеральных грантов, предоставленных отделению полиции Чикаго с 2009 года, полиция и научные сотрудники Иллинойского технологического института уже создали собственную программу по прогнозированию преступлений, которая способна просчитать уровень риска для человека, основываясь на уголовной статистике и на данных соцсетей.

19 августа 2014 года Кэти Лэйдлоу, руководитель отдела продаж Palantir, писала начальнику полиции Чикаго Джонатану Льюину: «Я бы хотела связаться с офицером Маккарти по поводу возможного сотрудничества с нашей компанией на основании подтвержденных успехов в сокращении убийств в Новом Орлеане».

Из писем также стало известно, что полиция Чикаго надеялась получить грант от Министерства внутренней безопасности на приобретение программного обеспечения Palantir. Однако ни тестирование, ни покупка программы так и не состоялись.

Начальник полиции Льюин, ответственный за их собственную прогнозирующую модель и участник переговоров с Кэти Лэйдлоу о покупке программы Palantir, в интервью заявил, что знал о сотрудничестве Palantir с органами правопорядка других городов, но никогда не одобрял ни тестирование программы, ни ее приобретение.

Компании не удалось продать свой продукт полиции Чикаго, зато она снискала известность среди зарубежных служб безопасности.

Для приобретения программного обеспечения Palantir Дании пришлось получить освобождение от регламента защиты данных Европейского Союза.
В 2016 году полиция и разведывательные службы Дании заключили с Palantir контракт на 7 лет. Объектом продажи стало прогнозирующее программное обеспечение для выявления потенциальных террористов. Датские газеты писали, что стоимость составила от 14 до 41 миллиона долларов.

Согласно закупочным документам, для прогнозирования вероятности совершения теракта программа использует данные органов правопорядка: автомобильные номера, видео с камер наблюдения и полицейские отчеты. Для приобретения программного обеспечения Palantir Дании пришлось получить освобождение от регламента защиты данных Европейского Союза.

До контракта с Данией в 2016 году в отчетах о работе Palantir Technologies с органами правопорядка никогда не упоминались программы для прогнозирования.

В 2017 году в либеральной израильской газете Haaretz появилось сообщение о том, что спецслужбы Израиля использовали системы анализа, которые прочесывали соцсети и другие источники данных для выявления вероятных преступников-одиночек из палестинских поселений на западном берегу реки Иордан.

Также было отмечено, что Palantir — одна из двух организаций, которая могла бы предоставить прогнозирующие интеллектуальные системы израильским спецслужбам. Проект Palantir в Новом Орлеане — это первый известный случай использования этой компанией данных из соцсетей.

«Я не удивлен, что за границей с помощью этой информации арестовывают людей», — высказался председатель совета Нового Орлеана Джейсон Уильямс, указывая на различия в судебных системах Израиля и США. «Использование технологий для того, чтобы обойти Конституцию — это последняя вещь, которую я бы хотел увидеть в своей стране».

Крупные города на всей территории США, такие как Нью-Йорк, сейчас рассматривают законопроекты, позволяющие контролировать алгоритмы, которые органы государственного управления используют при принятии решений.

Этой дискуссии еще только предстоит начаться в Новом Орлеане — городе, где большая часть политических речей посвящена все никак не снижающемуся уровню преступности. Однако секретность отношений Palantir и полиции Нового Орлеана вызывает тревогу у сторонних наблюдателей и множит вопросы о том, как используются алгоритмы компании.

Уильям Айзек, ученый из Университета штата Мичиган, анализировал прогнозирующие полицейские системы на предвзятость и заявил, что уже давно подозревал Palantir в создании такой программы. «Публично они высказывались только о том, как их технология справляется с противоречиями в данных и визуализируется».

После изучения документов проекта Palantir в Новом Орлеане, Айзек заметил, что программа невероятно похожа на систему со «списком риска» в Чикаго. В стратегическом исследовательском центре RAND также обнаружили, что эта система не оказала никакого влияния на количество серьезных преступлений, а в списке было на удивление много молодых афро- и латиноамериканцев, ранее имевших проблемы с законом.

«Если вы собираетесь что-то прогнозировать, необходимо иметь полное представление об этом. Если вы пытаетесь предупредить преступление, нужно иметь положительные и отрицательные примеры предсказания возможного правонарушения», — объясняет Айзек. У отделений полиции есть такая проблема — много данных о районах, где они работают, и мало о тех, где они не столь активны (обычно там преобладают состоятельные люди европейской расы).

«Те же недостатки, что в прогнозирующей системе Чикаго, а в условиях Нового Орлеана они лишь усугубятся», — продолжает Айзек.

Секретность, окружающая программу в полиции Нового Орлеана, также вызывает сомнение, получили ли обвиняемые доказательства, которые имели право видеть. Сара Сент-Винсент, исследовательница из Human Rights Watch (неправительственной организации, осуществляющей мониторинг, расследование и документирование нарушений прав человека), недавно опубликовала полуторагодовое расследование на тему сокрытия доказательств, полученных органами охраны правопорядка в ходе наблюдений за подозреваемым.

В своем интервью Сент-Винсент заявила, что сокрытие собранных данных (этим характеризуется, в частности, работа прогнозирующей программы в Новом Орлеане) серьезно подрывает систему сдержек и противовесов уголовного судопроизводства. В декабре 2017 года на конференции Института Катона по проблемам наблюдения, Сент-Винсент подняла вопрос о том, почему информация, собранная полицией при помощи прогнозирующих систем, не появляется в обвинительных актах или исках.

«Именно судья должен оценить, правомерны ли в этом случае действия властей», — считает Сент-Винсент. «Адвокаты защиты будут правы, если выскажут свои опасения об использовании данных, которые могут быть предвзяты или недостоверны».

Если бы о сотрудничестве Palantir и полиции Нового Орлеана было известно, то вопросы законности, прозрачности и правомерности можно было бы обсудить на каком-нибудь форуме, причем в обсуждении приняли бы участие юристы, сотрудники правоохранительных органов, представители компании и общественность. Но за шесть лет этого так и не произошло.

По материалам: cripo.com.ua