Камерата вижда изображение - системата трябва да го разпознае.
Получавате снимка - системата трябва да я анализира.
Опитвате да я споделите - системата трябва да знае какво има на нея.
Правителството изрично настоява защитата да обхваща не само отделни приложения, а устройството максимално широко. Причината е разбираема: ако технологията работи само в една програма, детето може просто да използва друга.
Лондон вече обсъжда как системата да бъде устойчива на заобикаляне чрез странично инсталирани приложения, криптирани комуникации, браузъри, облачни услуги и други технически средства.
Освен това политиката трябва да обхване не само новите телефони, продавани след въвеждането й, но и вече използваните устройства, когато те продължават да получават актуализации на операционната система.
Това е мащабът.
И е важно да кажем нещо друго също толкова ясно.
Засега снимките не отиват никъде
Тук много публикации и коментари прескачат една важна граница.
Официалната британска позиция е, че разпознаването трябва да се извършва локално - върху самото устройство.
На 2 юли британското правителство отговори писмено в парламента, че никакви данни не трябва да напускат устройството и че няма да има докладване нито към технологичните компании, нито към правителството, нито към полицията.
Това има значение.
Нека не си измисляме Оруел, когато той още не е дошъл.
Няма публично доказателство, че правителството на Киър Стармър изгражда система, която в този момент ще изпраща семейните ви снимки към британските служби.
Няма обявено изискване някой държавен чиновник да получава копие от личните ви съобщения.
И точно затова проблемът е по-фин.
Днешният въпрос не е:
„Държавата вече чете ли телефона ми?“
По-интересният въпрос е:
„Създаваме ли инфраструктура, чрез която някой утре би могъл да поиска телефонът ми да търси нещо друго?“
Това са две съвсем различни неща.
Днес е голота. А утре?
Технологичната система няма морал.
Тя няма политически убеждения.
Алгоритъмът не знае защо е получил задачата си.
Днес задачата може да бъде:
„Разпознавай голота.“
Утре може да бъде:
„Разпознавай сцени на насилие.“
След това:
„Разпознавай съдържание, свързано със самонараняване.“
И тук вече не говорим само теоретично.
В британския парламент вече беше зададен въпрос дали подобна технология би могла да се използва за откриване на омраза, расизъм, екстремно насилие, самонараняване и друго „вредно съдържание“.
Правителственият отговор не беше категорично „никога“.
Напротив - властите посочиха, че ще продължат да разглеждат възможности да стигнат по-далеч в защитата на децата.
В друг официален отговор правителството е още по-ясно: сегашната намеса е ограничена до разпознаване на голота, но ще бъдат разглеждани „ползите и рисковете от по-широки потенциални приложения“ на технологията.
