Uzziniet Savu Eņģeļa Numuru
Lauren Park dizains
'Vai tas būs penis?' ir jautājums, ko tik daudzi cilvēki, it īpaši sievietes, izjūt ar bailēm, kad vien redz svešinieka DM. Nu, visbeidzot, ir trauksmes lietotne, vismaz jūsu Twitter DM.
Iedvesma SafeDM , satura bloķēšanas filtrs, kas pašlaik tiek izstrādāts, radās brīdī, kad Kelsija Breslere atklāja, ka nodarbojas ar nevēlamu uzmākšanos digitālā seksuālā veidā.
'[Tas bija] nejaušs cilvēks un vēlējās pievērst manu uzmanību,' saka Breslers. 'Viņi jautāja, kāpēc jūs nekad nerunājat ar mani, un pēc tam man to nosūtīja. Es domāju, ka es zinu, kāpēc es nerunāju ar šo cilvēku. ”
Breslera pieredze ar atriebības pornogrāfiju arī mudināja viņu cīnīties pret šo uzmākšanos. Kopā ar trīs citu komandu viņa strādā pie satura filtra AI, mācot to atpazīt penīšu attēlus, informēt par tiem lietotāju un arī izdzēst tos no iesūtnes.
Pētījumi to parāda 53 procenti sieviešu no 18 līdz 29 gadiem un aptuveni 78 procenti no tūkstošgadīgām sievietēm ir nosūtīti nepieprasīti nepārprotami attēli, no kuriem daudzi ir penis.
'Ja sieviete nav piedzīvojusi kibernozibu, viņa zina kādu, kam ir. Tas ir kaut kas tik izplatīts, ka mums patiešām nav bijis cita risinājuma, kā tikai likt sievietēm vienkārši slēgt savus DM, kas, manuprāt, nav pareizā atbilde, ”saka Breslers. 'Tas ir kaut kas, par ko lielākā daļa sieviešu patiešām priecājas.'
Kā AI uzzina, kā izskatās penis?
Nu, pateicoties Breslera vīrusa tvīts septembrī , daudzi pieprasītie fotoattēli tiek nosūtīti uz kontu ShowYoDiq . (Dažas fotogrāfijas diemžēl arī kļūdaini, nevis kļūdaini, tiek nosūtītas uz Breslera personīgo Twitter kontu.) Dikss pārklāts ar mirdzumu. Diks ar zeķēm. Dzimumlocekļi būros - visas šīs fotogrāfijas ir pārbaudītas, lai palīdzētu AI atpazīt to, kas padara penis.
Čivināt
Ja tas ir dzimumloceklis, SafeDM automātiski izdzēsīs attēlu un atbildēs sūtītājam, sakot, ka nosūtītais bija nepiemērots ziņojums, un informēs lietotāju par viņu brīdinājumu skaitu.
'Mēs viņus neziņojam ziņojumā. Mēs tiešām sakām, ka tas bija neatbilstošs saturs. Mēs strādājam pie visa verbija, kā arī pie streiku skaita, [kas pēc] noteikta līmeņa streikiem personai tiek automātiski liegta vairs ar jums sazināties. '
Daži potenciālie lietotāji ir paziņojuši, ka viņi vēlētos paši bloķēt likumpārkāpējus, nevis likt SafeDM automātiski to darīt viņu vietā. Breslere un viņas komanda uzklausa filtru interesentu atsauksmes.
“To vēlas lietotāji. Mēs cenšamies padarīt lietas pēc iespējas elastīgākas, lai cilvēki varētu mainīt šos iestatījumus, ”saka Breslers. Kad tas tiks izlaists, filtrs un tā iestatījumi būs pilnībā funkcionāli, taču komanda ir gatava pieņemt lietotājiem pieprasītās opcijas pēc izlaišanas datuma saviem gala lietotājiem, vienlaikus saglabājot tā pamata funkcionalitāti.
Šis satura filtrs (provizoriski) ir paredzēts izlaist 14. februārī
Pateicoties nepacietīgu ļaužu sniegtajam datu apjomam, ir bijis jāpārbauda diezgan daudz, lai palīdzētu satura filtram noteikt, kas ir dzimumloceklis, un kas, protams, nav tikai falliska izskata izstrādājums. Tas arī ir palīdzējis komandai diezgan ātri izstrādāt filtru, ieskaitot to, vai viltus pozitīvus filtrus vajadzētu uztvert vai nevajadzētu.
'Mēs esam precīzi par 99 procentiem, lai gan mums ir nepatiesi pozitīvi rezultāti,' saka Breslers. 'Mums jānonāk līdz brīdim, kad mums jāizlemj, vai cilvēki vēlas redzēt dzimumlocekli kā priekšmetus, vai tā ir arī uzmākšanās? Pat ja [attēls] nav dzimumloceklis, vai filtram tomēr vajadzētu to filtrēt? Tas tiešām atgriežas pie tā, ko vēlas lietotājs. ”
Kopš tā paziņošanas septembrī, SafeDm čivināt testēšana ir parādījusi milzīgu progresu un precizitāti, arvien mazāk pārvarot satura filtru AI. Cilvēki, protams, ir satraukti par gaidāmo atbrīvošanu. Pārsteidzošā kārtā Breslere pieminēja, ka daži no viņas iecienītākajiem cilvēkiem, lai saņemtu ziņas par filtru, ir no tētiem, īpaši tētiem ar meitām.
'Viņi ir priecīgi, ka es to daru, bet skumji, ka tas jāsāk ar visu. [Man ir bijuši pāris] tēti [kuri] priecājas, ka es pie tā strādāju, jo viņiem ir meitas, un viņi nevēlas, lai viņiem ar to būtu jārisina. '
Ikviens, kam ir Twitter konts, varēs izmantot satura bloķēšanas filtru
'Jums nav nepieciešams konkrēts tālruņa modelis,' skaidro Breslers. “To var izmantot jebkurš čivināt konts. Lietotnē un tīmeklī tas darbojas vienādi. ”
Galīgais projekta mērķis ir atgriezt kontroli sabiedrībai, lai viņiem nebūtu jādzīvo, baidoties no tā, kas atrodas viņu Twitter iesūtnēs.
Keitas Gornijas augums
'Tas ir smieklīgi, kā jūs varat kaut ko izņemt no nepatīkamas situācijas un mazliet kontrolēt situāciju un padarīt pasauli labāku.'
