Проверката за безопасност в iOS 16 връща контрола върху оцелелите от насилие

Тази история е част от WWDC 2022пълното отразяване на CNET от и за годишната конференция на разработчиците на Apple.

Какво се случва

Apple обяви нова функция за проверка на безопасността, за да помогне на потенциални жертви в насилствени отношения.

Защо има значение

Това е последният пример за технологичната индустрия, която поема трудни лични технологични проблеми, които нямат ясни или лесни отговори.

Какво следва

Apple общува с организации за застъпничество жертви и оцелели, за да идентифицира други функции, които могат да помогнат на хората в криза.

Сред дълго търсените и популярни нови функции, които Apple планира да представи на iPhone тази есен, като отменете изпращането за текстови и имейли от iMessage както и функция за намиране и премахване на дублиращи се снимкие такъв, който не е просто удобство – използването му може да означава живот или смърт.

В понеделник Apple обяви проверка за безопасност, нова функция в настройките на iPhone или iPad, предназначена да помогне на жертвите на домашно насилие. Настройката, която идва тази есен с iOS 16, е предназначена да помогне на някой бързо да прекъсне връзките с потенциален насилник. Safety Check прави това, като помага на човек бързо да види с кого автоматично споделя чувствителна информация, като местоположението или снимките си. Но при спешни случаи той също така позволява на човек просто и бързо да деактивира достъпа и споделянето на информация за всяко устройство, различно от това в ръцете му.

По-специално, приложението включва и изпъкнал бутон в горния десен ъгъл на екрана, означен с Quick Exit. Както подсказва името, той е предназначен да помогне на потенциална жертва бързо да скрие, че е гледала проверката на безопасността, в който случай насилникът им не им позволява поверителност. Ако насилникът отвори отново приложението за настройки, където се съхранява Проверката за безопасност, тя ще започне от страницата с общи настройки по подразбиране, като ефективно прикрива следите на жертвата.

„Много хора споделят пароли и имат достъп до устройствата си с партньор“, каза Кейти Скинър, мениджър по инженеринг на поверителността в Apple, на събитието на компанията WWDC в понеделник. “Въпреки това, при злоупотребяващи взаимоотношения това може да застраши личната безопасност и да затрудни жертвите да получат помощ.”

Проверката за безопасност и внимателният начин, по който е кодирана, са част от по-големи усилия сред технологичните компании да спрат техните продукти да бъдат използвани като инструменти за злоупотреба. Това е и най-новият знак за готовността на Apple да навлезе в изграждането на технологии за справяне с чувствителни теми. И въпреки че компанията казва, че е сериозна в подхода си, е привлечена от критики за някои от своите ходове. Миналата година компанията обяви усилия за откриване на изображения на експлоатация на деца на някои от своите телефони, таблети и компютри, ход, който критиците се притесняват може да подкопае ангажимента на Apple към поверителността.

Все пак защитниците на жертвите казват, че Apple е една от малкото големи компании, които публично работят по тези въпроси. Докато много технологични гиганти, включително Microsoft, Facebook, Twitter и Google, са изградили и внедрили системи предназначени за откриване на злоупотребяващи изображения и поведението на съответните им сайтове, те се борят да създадат инструменти, които спират злоупотребата, докато се случва.

За съжаление злоупотребата се влоши. Проучване на практикуващи, които работят по домашно насилие, проведено през ноември 2020 г., установи, че 99,3% имат клиенти, които са преживели “улеснено от технологиите преследване и злоупотреба“Според Мрежа за услуги за жени, който работи по доклада с университета Къртин в Австралия. Освен това организациите научиха, че докладите на GPS проследяването на жертвите е скочило с повече от 244% от последното им провеждане на проучването през 2015 г.

На фона на всичко това технологични компании като Apple все повече работят с организации на жертви, за да разберат как техните инструменти могат да бъдат както злоупотребени от извършител, така и полезни за потенциална жертва. Резултатът са функции, като бутона за бърз изход на Safety Check, който според защитниците е знак, че Apple изгражда тези функции по начин, който те наричат ​​„информиран за травма“.

„Повечето хора не могат да оценят чувството за спешност“, каза той Рене Уилямс, изпълнителен директор на Националния център за пострадали от престъпления. “Apple беше много възприемчива.”

Множество заключени екрани, показани на и до iPhone.

Apple казва, че по света се използват повече от милиард iPhone.

Apple / Екранна снимка от CNET

Тежки проблеми

Някои от най-големите печалби на технологичната индустрия идват от идентифицирането на насилници. През 2009 г. Microsoft помогна за създаването на софтуер за разпознаване на изображения, наречен PhotoDNA, който сега се използва от социални мрежи и уебсайтове по целия свят за идентифицират изображения на насилие над деца когато е качен в интернет. Оттогава са създадени подобни програми, за да помогнат при идентифицирането видеоклипове за набиране на терористипредавания на живо на масови разстрели и други неща, които големите технологични компании се опитват да държат извън своите платформи.

Тъй като технологиите станаха все по-разпространени в живота ни, тези усилия придобиха все по-голямо значение. И за разлика от добавянето на нова видео технология или увеличаването на производителността на компютъра, тези социални проблеми не винаги имат ясни отговори.

През 2021 г. Apple направи едно от първите си публични движения към технология, фокусирана върху жертвите, когато обяви нови функции за своята услуга iMessage, предназначени да анализират съобщения, изпратени до потребители, маркирани като деца до определят дали техните прикачени файлове съдържат голота. Ако системата му подозира изображение, тя ще замъгли прикачения файл и ще предупреди лицето, което го получава, за да се увери, че иска да го види. Услугата на Apple също ще насочи децата към ресурси, които биха могли да им помогнат, ако бъдат жертвани чрез услугата.

По това време Apple заяви, че е създала технологията за сканиране на съобщения с мисъл за поверителност. Но притеснената система на Apple също е проектирана да предупреждава идентифициран родител, ако детето им все пак избере да види предполагаемото прикачено изображение. Това, казаха някои критици, може да подбуди злоупотреба от потенциално опасен родител.

Допълнителните усилия на Apple да открие потенциални изображения за малтретиране на деца, които могат да бъдат синхронизирани с нейната фото услуга чрез iPhone, iPad и компютри Mac, бяха критикувани от експерти по сигурността, които притеснен, че може да се използва неправилно.

И все пак защитниците на жертвите признаха, че Apple е една от малкото компании за устройства, които работят върху инструменти, предназначени да подкрепят жертвите на потенциална злоупотреба, докато се случва. Microsoft и Google не отговориха на искания за коментар дали планират да въведат функции, подобни на Safety Check, за да помогнат на жертвите, които може да използват софтуер за Windows и Xbox за компютри и конзоли за видеоигри или мобилен софтуер за Android за телефони и таблети.

iPhone, показващи съобщения за безопасност на децатаiPhone, показващи съобщения за безопасност на децата

Apple представи система за безопасност на децата в iMessages миналата година.

Apple

Уча се, но има много неща за правене

Технологичната индустрия работи с организации на жертви повече от десетилетие, търсейки начини за възприемане на нагласи за безопасност в своите продукти. Защитниците казват, че през последните няколко години особено много Екипите по безопасност са се увеличили в рамките на технологичните гиганти, в някои случаи с персонал от хора от света с нестопанска цел, които работеха по проблемите, които технологичната индустрия поема.

Apple започна да се консултира с някои защитници на правата на жертвите относно Safety Check миналата година, като поиска информация и идеи за това как най-добре да изградим системата.

„Започваме да виждаме признание, че има корпоративна или социална отговорност, за да гарантираме, че вашите приложения не могат да бъдат използвани твърде просто“, Карън Бентли, Главен изпълнителен директор на Wesnet. И тя каза, че това е особено трудно, защото тъй като технологията се е развила, за да стане по-лесна за използване, има и потенциала тя да бъде инструмент за злоупотреба.

Това е част от причината, поради която тя казва, че проверката за безопасност на Apple е „брилянтна“, защото може бързо и лесно да отдели нечия цифрова информация и комуникации от техния насилник. „Ако изпитвате домашно насилие, вероятно ще преживеете част от това насилие в технологиите“, каза тя.

Въпреки че Safety Check премина от идея към тестов софтуер и ще бъде широко достъпен с пакета за iOS 16 софтуерни актуализации за iPhone и iPad през есента, Apple заяви, че планира да работи повече по тези проблеми.

За съжаление, Safety Check не обхваща начините, по които насилниците може да проследяват хора, използвайки устройства, които не притежават – например ако някой пъхне един от тракерите AirTag на Apple за $29 в джоба на палтото си или върху колата си да ги преследва. Проверката за безопасност също не е предназначена за телефони, настроени под детски акаунти, за хора под 13-годишна възраст, въпреки че функцията все още е в тестване и може да се промени.

„За съжаление, насилниците са упорити и постоянно актуализират тактиката си“, каза Ерика Олсен, директор на проекта за Сигурна мрежа, програма от Националната мрежа за прекратяване на домашното насилие, която обучава компании, общностни групи и правителства как да подобрят безопасността и поверителността на жертвите. “Винаги ще има още какво да се прави в това пространство.”

Apple заяви, че разширява обучението със своите служители, които взаимодействат с клиенти, включително продавачи в магазините й, за да знаят как работят функции като Safety Check и да могат да го преподават, когато е подходящо. Компанията също така е създала насоки за своя обслужващ персонал, за да помогне за идентифицирането и подпомагането на потенциалните жертви.

В един случай, например, екипите на AppleCare се научават да слушат, когато собственик на iPhone се обажда, изразявайки загриженост, че няма контрол върху собственото си устройство или собствения си акаунт в iCloud. В друг, AppleCare може да насочи някого как да премахне своя Apple ID от семейна група.

Apple също актуализира своя ръководство за потребителя за лична безопасност през януари, за да инструктира хората как да нулират и да възвърнат контрола върху iCloud акаунт, който може да бъде компрометиран или използван като инструмент за злоупотреба.

Крейг Федериги, ръководител на софтуерното инженерство на Apple, каза, че компанията ще продължи да разширява своите функции за лична безопасност като част от по-големия си ангажимент към своите клиенти. „Защитата на вас и вашата поверителност е и винаги ще бъде в центъра на това, което правим“, каза той.

Leave a Comment