Жаңарту: Apple серверді екінші тексеру туралы айтты, ал компьютерді көретін кәсіби компания мұны төмендегі «Екінші тексеру қалай жұмыс істейтіні» бөлімінде сипаттауға болатын мүмкіндікті сипаттады.
Әзірлеушілер оның бөліктерін өзгерткеннен кейін, Apple CSAM жүйесінің ерте нұсқасы кінәсіз кескінді белгілеу үшін тиімді түрде алданып қалды.Дегенмен, Apple нақты өмірде мұның алдын алу үшін қосымша қауіпсіздік шаралары бар екенін мәлімдеді.
Соңғы әзірлеме NeuralHash алгоритмі GitHub ашық бастапқы әзірлеуші веб-сайтында жарияланғаннан кейін орын алды, кез келген адам онымен тәжірибе жасай алады ...
Барлық CSAM жүйелері жоғалған және қаналған балалар ұлттық орталығы (NCMEC) сияқты ұйымдардан белгілі балаларға жыныстық зорлық-зомбылық көрсету материалдарының дерекқорын импорттау арқылы жұмыс істейді.Деректер базасы хэштер немесе суреттерден цифрлық саусақ іздері түрінде беріледі.
Технология алпауыттарының көпшілігі бұлтқа жүктеп салынған фотосуреттерді сканерлегенімен, Apple сақталған фотосуреттің хэш мәнін жасау үшін тұтынушының iPhone телефонындағы NeuralHash алгоритмін пайдаланады, содан кейін оны CSAM хэш мәнінің жүктеп алынған көшірмесімен салыстырады.
Кеше әзірлеуші Apple алгоритмін кері өңдеп, кодты GitHub-қа шығардым деп мәлімдеді - бұл шағымды Apple тиімді растады.
GitHib шығарылғаннан кейін бірнеше сағат ішінде зерттеушілер алгоритмді әдейі жалған оң - бірдей хэш мәнін тудыратын мүлдем басқа екі кескінді жасау үшін сәтті қолданды.Бұл соқтығыс деп аталады.
Мұндай жүйелер үшін әрқашан соқтығысу қаупі бар, өйткені хэш, әрине, кескіннің айтарлықтай жеңілдетілген көрінісі, бірақ біреудің кескінді соншалықты тез жасай алатыны таң қалдырады.
Мұндағы қасақана соқтығыс - бұл тұжырымдаманың дәлелі.Әзірлеушілер нақты уақыттағы жүйеде жалған позитивтерді жасауды қажет ететін CSAM хэш дерекқорына қол жеткізе алмайды, бірақ бұл соқтығыс шабуылдарының салыстырмалы түрде оңай екенін дәлелдейді.
Apple бұл алгоритмнің өз жүйесінің негізі екенін тиімді растады, бірақ аналық платаға бұл соңғы нұсқа емес екенін айтты.Сондай-ақ компания оны ешқашан құпия сақтауды мақсат етпейтінін мәлімдеді.
Apple компаниясы аналық платаға электрондық пошта арқылы GitHub жүйесінде пайдаланушы талдаған нұсқа iCloud Photo CSAM анықтау үшін пайдаланылатын соңғы нұсқа емес, жалпы нұсқа екенін айтты.Apple сонымен қатар алгоритмді ашқанын айтты.
«NeuralHash алгоритмі [...] қол қойылған операциялық жүйе кодының бөлігі [және] қауіпсіздік зерттеушілері оның мінез-құлқы сипаттамаға сәйкес келетінін тексере алады», - деп жазды Apple құжаты.
Компания тағы екі қадам бар екенін айтты: өз серверінде қайталама (құпия) сәйкестік жүйесін іске қосу және қолмен шолу.
Apple сонымен қатар пайдаланушылар 30 сәйкестік шегінен өткеннен кейін Apple серверлерінде жұмыс істейтін екінші жалпыға қолжетімді емес алгоритм нәтижелерді тексеретінін мәлімдеді.
«Бұл тәуелсіз хэш қате NeuralHash CSAM емес кескіндердің қарсыластық кедергісі салдарынан құрылғыдағы шифрланған CSAM дерекқорына сәйкес келуі және сәйкестік шегінен асып кету мүмкіндігін жоққа шығару үшін таңдалды.»
Roboflow қызметкері Брэд Дуйер соқтығысты шабуыл тұжырымдамасының дәлелі ретінде жарияланған екі суретті оңай ажыратудың жолын тапты.
Мен бұл кескіндердің ұқсас, бірақ әртүрлі OpenAI нейрондық мүмкіндіктер экстракторының CLIP-те қалай көрінетіні қызықтырады.CLIP NeuralHash сияқты жұмыс істейді;ол кескінді алады және кескіннің мазмұнына сәйкес келетін мүмкіндік векторларының жиынын жасау үшін нейрондық желіні пайдаланады.
Бірақ OpenAI желісі басқа.Бұл кескіндер мен мәтінді салыстыра алатын жалпы үлгі.Бұл біз оны адам түсінетін кескін ақпаратын алу үшін пайдалана алатынымызды білдіреді.
Мен жоғарыдағы соқтығысқан екі суретті CLIP арқылы жүргіздім, ол да алдады ма, жоқ па.Қысқа жауап: жоқ.Бұл Apple анықталған CSAM кескіндеріне олардың нақты немесе жалған екенін анықтау үшін екінші мүмкіндікті шығарушы желіні (мысалы, CLIP) қолдана алуы керек дегенді білдіреді.Бір уақытта екі желіні алдайтын кескіндерді жасау әлдеқайда қиын.
Соңында, бұрын айтылғандай, кескіндер олардың CSAM екенін растау үшін қолмен қаралады.
Қауіпсіздік зерттеушісінің айтуынша, жалғыз нақты қауіп - Apple-ді тітіркендіргісі келетін кез келген адам шолушыларға жалған позитивтер бере алады.
«Apple шын мәнінде бұл жүйені әзірледі, сондықтан хэш функциясын құпия сақтаудың қажеті жоқ, өйткені «CSAM ретінде CSAM емес» көмегімен жасай алатын жалғыз нәрсе - Apple жауап беру тобын жою үшін сүзгілерді енгізгенге дейін кейбір қажетсіз суреттермен ашуландыру. талдау Құбырдағы қоқыс жалған позитив болып табылады », - деді Николас Уивер, Калифорния университетінің Халықаралық компьютерлік ғылымдар институтының аға ғылыми қызметкері, Беркли онлайн чатта Motherboard-ке.
Құпиялылық - қазіргі әлемде көбірек алаңдаушылық туғызатын мәселе.Нұсқауларымыздағы құпиялылық, қауіпсіздік және т.б. қатысты барлық есептерді орындаңыз.
Бен Лавжой – британдық техникалық жазушы және 9to5Mac үшін ЕО редакторы.Ол толық шолулар алу үшін уақыт өте келе Apple өнімдерімен тәжірибесін зерттеп, бағандары мен күнделік мақалаларымен танымал.Ол сонымен қатар романдар жазады, екі техникалық триллер, бірнеше қысқа ғылыми фантастикалық фильмдер және роман-ком бар!
Жіберу уақыты: 20 тамыз 2021 ж