Mizajou: Apple mansyone yon dezyèm enspeksyon nan sèvè a, ak yon konpayi pwofesyonèl vizyon òdinatè dekri yon posibilite pou sa sa a ta ka-dekri nan "Ki jan dezyèm enspeksyon an ta ka travay" anba a.
Apre devlopè yo ranvèse enjenyè pati nan li, vèsyon an byen bonè nan sistèm Apple CSAM la te efektivman twonpe yo make yon imaj inosan.Sepandan, Apple deklare ke li gen pwoteksyon adisyonèl pou anpeche sa rive nan lavi reyèl.
Dènye devlopman an te fèt apre yo te pibliye algorithm NeuralHash sou sit entènèt pwomotè sous louvri GitHub, nenpòt moun ka fè eksperyans ak li...
Tout sistèm CSAM yo travay lè yo enpòte yon baz done ki gen materyèl yo konnen sou abi seksyèl sou timoun ki soti nan òganizasyon tankou Sant Nasyonal pou Timoun ki disparèt ak eksplwate (NCMEC).Yo bay baz done a sou fòm hash oswa anprent dijital ki soti nan imaj.
Malgre ke pifò teknoloji jeyan eskane foto yo telechaje nan nwaj la, Apple sèvi ak algorithm NeuralHash sou iPhone kliyan an pou jenere yon valè hash nan foto ki estoke a, ak Lè sa a, konpare li ak kopi a telechaje nan valè a hash CSAM.
Yè, yon pwomotè te deklare ke yo te ranvèse Enjenieri algorithm Apple la ak lage kòd la nan GitHub-reklamasyon sa a te efektivman konfime pa Apple.
Nan kèk èdtan apre GitHib te lage, chèchè yo avèk siksè itilize algorithm la pou kreye yon entansyonèl fo pozitif-de imaj konplètman diferan ki te pwodwi menm valè hash la.Yo rele sa yon kolizyon.
Pou sistèm sa yo, toujou gen yon risk nan kolizyon, paske hash la se nan kou yon reprezantasyon senplifye nan imaj la, men li se etone ke yon moun ka jenere imaj la byen vit.
Kolizyon an ekspre isit la se jis yon prèv konsèp.Devlopè yo pa gen aksè a baz done hash CSAM, ki ta mande pou kreyasyon fo pozitif nan sistèm an tan reyèl, men li pwouve ke atak kolizyon yo relativman fasil nan prensip.
Apple efektivman konfime ke algorithm la se baz pwòp sistèm li yo, men li te di mèr la ke sa a se pa vèsyon final la.Konpayi an te deklare tou ke li pa janm gen entansyon kenbe li konfidansyèl.
Apple te di Motherboard nan yon imèl ke vèsyon an analize pa itilizatè a sou GitHub se yon vèsyon jenerik, pa vèsyon final yo itilize pou deteksyon iCloud Photo CSAM.Apple te di li tou divilge algorithm la.
"Algorithm NeuralHash [...] se yon pati nan kòd sistèm operasyon siyen [ak] chèchè sekirite yo ka verifye ke konpòtman li konfòm ak deskripsyon an," te ekri yon dokiman Apple.
Konpayi an te kontinye pou di gen de lòt etap: kouri yon sistèm matche segondè (sekrè) sou sèvè pwòp li yo, ak revizyon manyèl.
Apple te deklare tou ke apre itilizatè yo pase papòt 30 matche ak, yon dezyèm algorithm ki pa piblik ki kouri sou serveurs Apple yo pral tcheke rezilta yo.
"Hash endepandan sa a te chwazi pou rejte posibilite ke NeuralHash inègza a matche ak baz done CSAM chiffres sou aparèy la akòz entèferans advèsè nan imaj ki pa CSAM ak depase papòt la matche."
Brad Dwyer nan Roboflow te jwenn yon fason fasilman distenge ant de imaj yo afiche kòm yon prèv konsèp pou yon atak kolizyon.
Mwen kirye ki jan imaj sa yo gade nan CLIP nan yon ekstraktè karakteristik neral ki sanble men diferan OpenAI.CLIP travay menm jan ak NeuralHash;li pran yon imaj epi sèvi ak yon rezo neral jenere yon seri vektè karakteristik ki kat jeyografik nan kontni an nan imaj la.
Men rezo OpenAI a diferan.Li se yon modèl jeneral ki ka kat ant imaj ak tèks.Sa vle di ke nou ka itilize li pou ekstrè enfòmasyon imaj moun konprann.
Mwen te kouri de imaj kolizyon anlè a nan CLIP pou wè si li te twonpe tou.Repons kout la se: non.Sa vle di ke Apple ta dwe kapab aplike yon rezo ekstraksyon dezyèm karakteristik (tankou CLIP) nan imaj CSAM detekte yo pou detèmine si yo reyèl oswa fo.Li pi difisil pou jenere imaj ki twonpe de rezo an menm tan.
Finalman, jan yo mansyone pi bonè, imaj yo revize manyèlman pou konfime ke yo se CSAM.
Yon chèchè sekirite te di ke sèl risk reyèl la se ke nenpòt moun ki vle anbete Apple ta ka bay fo pozitif nan evalyatè imen.
"Apple aktyèlman te fèt sistèm sa a, kidonk fonksyon hash la pa bezwen kenbe sekrè, paske sèl bagay ou ka fè ak 'ki pa CSAM kòm CSAM' se anbete ekip repons Apple la ak kèk imaj tenten jiskaske yo aplike filtè pou elimine. analiz Sa yo fatra nan tiyo a se fo pozitif, "Nicholas Weaver, yon chèchè ansyen nan Enstiti Entènasyonal Syans Enfòmatik nan University of California, Berkeley, te di Motherboard nan yon chat sou entènèt.
Konfidansyalite se yon pwoblèm k ap ogmante enkyetid nan monn jodi a.Swiv tout rapò ki gen rapò ak vi prive, sekirite, elatriye nan gid nou yo.
Ben Lovejoy se yon ekriven teknik Britanik ak editè Inyon Ewopeyen pou 9to5Mac.Li se li te ye pou kolòn li yo ak atik jounal pèsonèl, eksplore eksperyans li ak pwodwi Apple sou tan yo ka resevwa plis revize konplè.Li ekri woman tou, gen de thriller teknik, kèk fim syans fiksyon kout ak yon rom-com!
Tan poste: Out-20-2021