komentárov na firemných profiloch na sociálnych sieťach sú nenávistné.
komentárov na reklamách na sociálnych sieťach obsahuje toxický obsah.
Toľko času strávia manažéri sociálnych sietí moderáciou 10 000 komentárov.
Ľudskí moderátori by na kontrolu všetkých komentárov na našich sociálnych sieťach potrebovali 2 000 hodín mesačne. elv.ai nám ušetrí 8 500€ mesačne.
Pri riešeniach čisto s využitím AI sme museli manuálne kontrolovať komentáre, pretože nenávisť pretrvávala. Preto sme prešli na elv.ai, aby sme sa zabezpečili, že naše komentáre sú chránené.
V Refresheri sa už dlho zaoberáme problémom narastajúcej toxicity, konšpirácií a dezinformácií či rôznych útokov v digitálnom priestore. elv.ai nám pomáha s moderovaním komentárov na sociálnych sieťach, aby sme sa mohli sústrediť na novinársku prácu a spoluprácu s klientmi.
Odkedy sme začali spolupracovať s elv.ai, výrazne sa znížil počet toxických a nenávistných komentárov na našich platformách. Naši sledovatelia si všimli túto zmenu k lepšiemu a oceňujú prívetivejšie prostredie na diskusiu. Je nesmierne dôležité mať v boji proti nenávisti online partnera, akým je elvai.
Pre Zastúpenie Európskej komisie na Slovensku je komunikácia s občanmi Slovenskej republika – či už vo virtuálnom alebo reálnom kontakte – kľúčová. Je pre nás dôležité diskutovať s ľuďmi o témach, ktoré ich zaujímajú, odpovedať na ich otázky, prípadne im poskytovať najnovšie stanoviská na horúce témy, ktoré hýbu našou spoločnosťou. Taktiež sa snažíme byť v kontakte aj s ľuďmi, ktorí nezdieľajú rovnaké názory, sme otvorení slušnej diskusii, avšak nechceme na našich sociálnych sieťach poskytovať priestor komentárom obsahujúcim vulgarizmy, urážky, hoaxy, nebezpečné dezinformácie a iný nezákonný obsah. Z tohto dôvodu sme veľmi radi, že môžeme spolupracovať s Elv.Ai, vďaka čomu sú diskusie pod našimi príspevkami bezpečným priestorom pre otvorenú výmenu názorov a zdieľanie faktov pre všetkých, ktorí majú záujem o reálnu diskusiu. Vďaka pomoci slovenských elfov a ich najnovšej AI technológii budeme aj naďalej vytvárať priestor na konštruktívny dialóg a rozvíjať na našich sociálnych sieťach slušnú debatu o Európskej únii a jej prioritách.
Spolupráca s elv.ai nám umožňuje lepšie chrániť našich sledovateľov a klientov pred škodlivým obsahom, vulgarizmami a zavádzajúcimi informáciami. Vytváranie prístupu k faktom pre poistencov a širokú verejnosť, ako aj bezpečného priestoru na diskusiu považujeme za svoju spoločenskú zodpovednosť.
Katedra žurnalistiky FiF UK je najstaršou novinárskou školou univerzitnej úrovne na Slovensku. Pri svojom poslaní vzdelávať budúcich novinárov a mediálnych pracovníkov je jednou z priorít katedry dbať na princípy demokracie a vždy stáť na strane pravdy. Súčasná informačná kríza so sebou prináša množstvo výziev pre novinárov i pre vzdelávací systém, preto je potrebné spájať sily so skutočnými odborníkmi. Spoluprácou s elv.ai sa otvára jedinečný priestor pre začlenenie inovatívnych technológií do akademického výskumu a vzdelávania. Spoločným cieľom je podieľať sa na výskume komunikácie v špecifických podmienkach online priestoru, ale aj jeho kultivácia a boj proti dezinformáciám a nenávistným prejavom.
Vzhledem k našim společným cílům – porozumění šíření dezinformací – jsem oslovil Elfov, abych zjistil, zda by neměli zájem o výzkumnou spolupráci. Nyní společně pracujeme na projektu, který bude identifikovat nejen rozšířenost a obsah dezinformací na slovenském Facebooku, ale také typ obsahu, který dezinformace vůbec způsobuje. Jako výzkumník jsem nadšený, že mohu pracovat na tomto projektu s tak skvělým týmem!
Dezinformácie a nenávistné prejavy online patria medzi hlavné témy, ktorým sa v DigiQ dlhodobo venujeme. Nesmierne nás teší, že sa elv.ai podarilo nájsť efektívny spôsob, ako moderovať komentáre na sociálnych sieťach. Veríme, že aj vďaka našej spolupráci budeme schopní ešte viac prispieť ku kultivácii online diskusií.
Zvláště v průběhu voleb zaznamenáváme významné množství komentářů pod našimi příspěvky, a bohužel není vždy možné stihnout moderovat všechny vulgární a nevhodné reakce. Jako projekt, který se zaměřuje na faktické informace, jsme navázali spolupráci s elv.ai, abychom i v diskuzích vytvářeli prostředí založené na věcné diskusi a vzájemném respektu.
Naši moderátori sú rodení hovoriaci, ktorí moderujú svoj jazyk a ktorí rozhodujú, či má byť komentár schválený alebo skrytý, keď si model AI nie je 95% istý. Máme tiež moderátorov, ktorí sa venujú prehľadu všetkých komentárov, ktoré skryl AI model. Všetci sú vyškolení podľa našich pravidiel.
Pravidlá boli vytvorené na základe existujúcich pravidiel komunity od spoločnosti Meta a vychádzajú aj z aktuálnej legislatívy DSA. Všetci naši vyškolení moderátori, ako aj model AI sa riadia návodom na moderovanie. Komentáre skryjeme, ak vykazujú nasledujúce vlastnosti:
1. Vulgarizmy
Komentáre obsahujúce hrubé a pejoratívne slová spolu s „cenzurovanou“ podobou týchto výrazov – K.K.T, p*ča atď.
2. Urážky
Zameriavajú sa na konkrétnych ľudí a konkrétne skupiny ľudí. Patria sem napríklad rôzne dehumanizujúce výrazy, ktoré prirovnávajú ľudí k zvieratám, chorobám, predmetom, špine a podobným pojmom. Zahŕňame aj rasizmus a komentáre napádajúce pohlavie alebo orientáciu.
3. Násilie
Komentáre, ktoré schvaľujú násilné činy, alebo svojim obsahom nabádajú k vykonaniu týchto činov, prípadne dotknutú osobu nejakým spôsobom ohrozujú.
4. Hoaxy, dezinformácie, škodlivé stereotypy
Komentáre, ktoré sa snažia šíriť nepravdivé správy o udalostiach, o priebehu ktorých už máme overené informácie. Patria sem aj klasické konšpiračné teórie a mýty, ktoré útočia na konkrétne skupiny ľudí (napríklad Židov alebo Rómov).
5. PODVODY, podvody
Do tejto skupiny patria tie komentáre, ktoré zverejňujú rôzni boti alebo podvodníci za účelom oklamania/zbohatnutia na oklamaných používateľov.
Ak si nie sme svojím rozhodnutím istí, alebo si myslíme, že komentár je na hrane, radšej ho necháme zverejnený.
Moderovanie našim klientom zvýšilo množsto slušných komentárov tak, že povzbudilo viac používateľov, aby sa zapojili do diskusie. Po 5 mesiacoch moderovania sa počet škodlivých komentárov zvýšil z 21 % na 10 % a celkový počet komentárov sa zvýšil z 36 tisíc na 41 tisíc.
Na funkcii analýzy emócií sme spolupracovali so spoločnosťou CulturePulse. Technológia CulturePulse sa zameriava na viac ako 90 dimenzií ľudskej psychológie a kultúry vrátane morálky, konfliktov a sociálnych otázok.
Bojujeme proti hoaxom, dezinformáciám a nenávisti na sociálnych sieťach.
Copyright © 2024 All rights reserved ELV.AI
Developed by
