2024.04.15. 06:00
Így „lövi le” az Instagram a gyerekeknek küldött meztelen képeket
A szoftveres megoldást május elejétől néhány közép- és latin-amerikai országban vezetik be, és ha beválik, a világ többi részére is kiterjesztik.
Forrás: Shutterstock
Az Instagram olyan funkciót fejlesztett, amely automatikusan felismeri a meztelen képeket a tinédzserek személyes üzeneteiben, elhomályosítja azokat, és figyelmeztető képernyőt jelenít meg a küldőknek és a címzetteknek egyaránt.
Egyre gyakoribb a szextorzió, azaz a szexuális zsarolás. A szextorzó során az elkövető szoros kapcsolatot létesít az áldozattal a közösségi médián keresztül, majd megkéri, hogy küldjön privát képeket, például meztelen fotókat, videókat, vagy más módon fenyegeti az áldozatot az interneten. Másokat szexuális aktusra kényszerítenek, s a megszerzett képeket, videókat zsarolásra, pénz követelésére vagy további szexuális aktusokra használják fel. Ez a zsarolás komoly problémává vált, különösen a fiatalok körében, mivel jelentős hatással van az áldozatok mentális egészségére, akiket bizonyos esetekben az öngyilkosságig hajszolnak.
A Meta által bejelentett új funkció gépi tanulási algoritmus segítségével elemzi, hogy az Instagram üzeneten keresztül küldött képek tartalmaznak-e meztelenséget.
Ez a gépi tanulási algoritmus a felhasználó eszközén fut, így a végpontok közötti titkosított csevegésekkel is működik.
Ha az algoritmus azt állapítja meg, hogy az elküldendő kép meztelenséget tartalmaz, a fotó automatikusan elmosódik, és figyelmeztető képernyő jelenik meg: „Legyen óvatos, mikor érzékeny képeket oszt meg.”
Ha a fiatalkorú meztelenséget tartalmazó képet kap, a kép automatikusan elmosódik, és figyelmeztető képernyő jelenik meg, amely lehetővé teszi, hogy eldöntse, megjeleníti a képet vagy sem.
Ha megpróbálja továbbítani a kapott meztelen képeket valaki másnak, szintén figyelmeztető képernyő jelenik meg.
A figyelmeztető képernyőről letilthatja és feljelentheti a másik felet.
A Meta közlése szerint ez a funkció várhatóan alapértelmezés szerint bekapcsolt lesz a 18 éven aluli felhasználók számára. Olyan rendszert is fejlesztenek, amely különböző jelek alapján képes észlelni a szextorziót, mielőtt az megtörténne. A Meta a Lantern gyermekvédelmi koalíció egyik alapító tagja. A Meta Lanternen megosztja a szextorzióval kapcsolatos információkat más cégekkel, hogy segítsen más közösségi hálózatoknak azonosítani a szexuális visszaélésekkel gyanúsított fiókokat, és megtenni a megfelelő lépéseket.
A mesterséges intelligencia vezérelte eszközök arra is képesek lesznek, hogy az ilyen tartalmakkal zsaroló profilokat ne csak beazonosítsák, hanem automatikusan korlátozzák is a kiskorúak profiljaival történő kommunikációjukat. Láthatatlanná tudják például tenni a zsaroló számára a kiskorú címzetteik listáját üzenetküldéskor, és a keresőmezőben sem fog többé megjelenni a kiskorúak profilneve.
A Meta azon kiskorú felhasználókat is figyelmeztetni fogja, akik olyan személlyel léptek kapcsolatba, akivel szemben már felmerült a visszaélés vagy a zsarolás gyanúja. Ilyen esetben az érintett felhasználót az „állítsuk meg a szexuális zsarolást!” című weboldalra fogják átirányítani, amely egy telefonszámot is közöl, ha bejelentést szeretne tenni.
A több közösségi médiaplatformot is üzemeltető Meta – amelyet az Egyesült Államokban és Franciaországban is azzal vádolnak, hogy platformjai károsítják a fiatalkorúak mentális egészségét – januárban léptette életbe az első, szintén a kiskorúak védelmét célzó intézkedéscsomagját. Ebben bevezették, hogy a kiskorú csak szülői engedéllyel állíthassa át a profilját privátról nyilvánosra, csak így férhessen hozzá érzékeny tartalmakhoz, és csak így kaphasson üzeneteket olyan személyektől, akiket még nem követett be az adott médiaplatformon.
Digitália
- Magyarul is beszélő, valódi robotkutyával találkozhatunk az ingyenes hazai eseményen
- Az otthoni rehabilitációt segíti a mesterséges intelligenciával működő hazai fejlesztés
- Nő lett Magyarország első űrorvosa
- Magyar nőket érintő Motherless-botrány: ezt tehetjük a lesifotók ellen
- Vakok újra látnak – hatalmasat lépett a Science Corporation