/Поглед.инфо/ Бившият сътрудник Еми Лю, в рамките на иска си към американската фирма Clarifai твърди, че сигурността на фирмата е била разбита от един или няколко души от Русия, в резултат от което вероятно технологии, използвани от американските военни са станали достояние на противника. В иска се казва, че ръководството на Clarifai е разбрало за разбиването на сигурността през ноември миналата година, но не е съобщило за това на Пентагона, а когато Еми Лю – бивш капитан от ВВС, се опитала да разкрие инцидента, е била уволнена.

Друг бивш сътрудник каза за изданието WIRED, че действията на ръководството на фирмата по повод на разбиването на сигурността са го подбудили да напусне компанията.

Фирмата Clarifai е работила над части от проекта на Пентагона Maven за насищане на американските въоръжени сили с изкуствен интелект. Проектът Maven предизвика бунт вътре в Google, който пое аналогичен договор по анализа на информацията от дронове. Повече от 4500 сътрудници на Google подписаха писмо, протестирайки срещу проекта, заявявайки, че не искат технологията на Google потенциално да помага да бъдат убивани хора. Протестът подбуди компанията да напише етически принципи, регулиращи използването на технологии с изкуствен интелект (ИИ) и обещанието да не удължава своята част от проекта Maven след изтичане на договора през следващата година.

Фирмата Clarifai отказа да коментира работила ли е тя над проекта Maven. Представител на фирмата каза, че инцидентът със сигурността е свързан с „нецелеви бот“, който е заразил изследователския сървър, но не е получил достъп до някакви данни или до кода. Представителят каза, че клиентите са били уведомени за този инцидент, но отказа да каже дали Пентагона е бил в това число.

Clarifai е била създадена през 2013 година от Матю Зейлер, който изучавал машинното обучение едновременно с професорите, които по-късно са станали водещи изследователи на ИИ в Google и Facebook. Стартапът предлага на компаниите разпознаване на образи при такива задачи, като разпознаване на знаменитостите и хранителните продукти.

Лю казва, че липсата на прозрачност и лошата сигурност, които е наблюдавала в Clarifai са я направили място, непригодно за тази работа. „Ако сега Google няма да работи и всичко, което ще им остане, това са такива компании като Clarifai – каза Лю.

Лю казва, че е била вмъкната във военната разработка на Clarifai, когато помогнала да подготвят проекта за презентация на Clarifai за договора за Maven през юни 2017 година. В презентацията се твърди, че технологията на Clarifai, разработена за търговски клиенти, може да бъде адаптирана за военните за такива цели като откриване и броене на автомобили и хора по данни предоставени от дронове. Лю казва, че Clarifai е спечелила договор за шест месеца на стойност 7 милиона долара. Както и Google, Clarifai е работила над Maven като подизпълнител на «ECS Federal», ИТ изпълнителят със щаб-квартира във Fairfax, щат Вирджиния.

Договорът за Maven е бил голяма победа за Clarifai. Вътрешен документ от края на 2017 година показва, че преди това повечето договори на стартапа са били по-малки от $100 000. Но Лю и другите запознати с проекта казват, че ръководството е скрило факта, че Clarifai е започнала да участва във военна разработка, описвайки проекта като цяло като правителствен договор, който може да спаси животи. Двама души, които са работили над проекта казват, че те изначално не са били информирани за това, че технологията на наблюдение, която са създавали е била за военните.

Текущите и бившите сътрудници на Clarifai казаха, че около 10 души са работили над договора за Maven в стая без прозорци, по-късно отбелязана като „Тайната стая“. За някои целта на проекта напълно е била разкрита едва тогава, когато след повече от месец държавни служители, които изглежда са били военни, са посетили офисите на Clarifai за да обсъдят разработваната система.

В началото на ноември Clarifai е била информирана от Интернет провайдъра Cogent, че един от неговите сървъри е бил подложен на атака. В отчета се казвало, че целия код на компанията, идентификационните данни на сметката на AmazonWebServices, запазените данни на клиентите възможно са били разбити и че вредна програма изглежда е попаднала от компютър от Русия. Представител на Clarifai е казал, че разследването на компанията е показало, че никакви данни на компанията или кода не са били разбивани.

В дневника за отчетността генералният директор е съобщавал, че вредната програма се е опитвала да се свърже с компютрите „в целия свят“. В това число и с някои, които принадлежат на правителството на САЩ. „Един от тях е мрежовия информационен център на Министерството на отбраната на САЩ“.

Лю казва, че тогава на следващия ден е чула от други сътрудници, че компанията е била подложена на атака. Скоро след това, както се казва в жалбата й, генералният съветник на Clarifai, Керълайн Маккафъри я повикал за да се срещнат в дрешника.

Там, както твърди Лю, Маккафъри подробно й разказал за това, че ръководството е разбрало за разбиването на сигурността е са помолили за помощ при планирането на вътрешните съобщения за инцидента. Лю казва, че тя е изказала опасения, че Пентагона и възможно други клиенти на Clarifai, трябва да бъдат информирани, но Маккафъри твърдял, че това не е необходимо, докато не завърши вътрешното разследване.

По-късно през същия ден Маккафъри обявил на събрание на компанията, че никой не трябва да пише за разбиването на сигурността, според думите на бивши и действащи сътрудници. В иска си Лю казва, че в следващата планирана среща с мениджъра си тя включила в дневния ред точка за необходимостта да се информира правителството за разбиването на сигурността. След няколко дни Лю е била уволнена.

Един от бившите и един от действащите сътрудници на Clarifai са съобщили, че компанията не е разкрила инцидента на Пентагона даже няколко седмици по-късно. Представител на компанията е казал, че клиентите са били уведомени за инцидента, но са отказали да кажат как е станало това. В жалбата на Лю се казва, че Пентагона е разбрал за този инцидент по друг начин, но тя и адвоката й са отказали да говорят за подробностите.

Казали на Лю, че са я уволнили, защото работата й не устройвала отдела по продажби на Clarifai. В иска й се твърди, че реалната причина за уволнението й е в това, че тя е призовала Clarifai да съобщи на Пентагона за разбиването на сигурността. Жалбата й е била подадена и в Министерството на отбраната с указание за това, че Clarifai е нарушила правилата на Пентагона като не е съобщила за инцидента в течение на 72 часа и е нарушила законодателството, забраняващо репресиите срещу сътрудниците, опитващи се да разкрият информация за нарушаване правилата на департамента. Представител на Clarifai е потвърдил, че Лю е била уволнена през ноември 2017 година, но е отрекъл, че компанията е направила това заради разбиването на сигурността.

Както съобщават източници, запознати с хода на работата, в началото на тази година договорът на Clarifai, свързан с проекта Maven е бил продължен с два месеца, защото на Пентагона са му харесали технологиите, разработени от компанията.

Превод: М. Желязкова