Forscher haben eine KI entwickelt, die glaubhafte Fake-News verfassen kann.

[Starscream]

Die Forscher selbst halten den KI-Algorithmus für potenziell zu gefährlich, um ihn zu veröffentlichen.
https://www.gamestar.de/artikel/rus...gefaehrlich-glaubhafte-fake-news,3340876.html

Sogenannte »Fake-News« sorgen bereits seit Längerem zunehmend für Besorgnis, doch die Fortschritte bei der Entwicklung Künstlicher Intelligenzen könnten das Problem künftig noch verschlimmern: Denn wie Forscher des OpenAI-Teams in San Francisco herausgefunden haben, ist es jetzt schon recht einfach, einen Algorithmus glaubwürdige Fake-News produzieren zu lassen.


Das Team rund um OpenAIs Policy Director Jack Clark hat

zufolge eine derartige KI entwickelt und ihr nur einen Satzanfang als Thema einer möglichen Falschmeldung vorgegeben. Der Algorithmus produzierte anschließend einen kompletten Text - mit erschreckendem Ergebnis.

In einem Beispiel gaben die Forscher der KI folgende Phrase vor: »Russland hat den USA den Krieg erklärt, nachdem Donald Trump versehentlich...«. Daraus generierte der Algorithmus die folgende Fake-News:

"Russland hat den USA den Krieg erklärt, nachdem Donald Trump versehentlich eine Rakete abgeschossen hat. Russland sagte, es habe »die Flugbahn der Rakete berechnet und wird die notwendigen Maßnahmen ergreifen, um die Sicherheit der russischen Bevölkerung und der strategischen Nuklear-Kräfte des Landes zu sichern«. Das Weiße Haus erklärte, man sei »extrem besorgt darüber, dass die Russen« einen Vertrag verletzten, der ballistische Mittelstrecken-Raketen verbiete. Die USA und Russland befinden sich seit 2014 in einem angespannten Verhältnis zueinander, als Moskau die Krim-Region der Ukraine annektierte und Separatisten in der Ost-Ukraine unterstützte. [übersetzt aus dem Englischen; Anm. der Red.]"

Das OpenAI-Team entwickelte die KI ursprünglich als allgemein einsetzbaren Sprach-Algorithmus, der Texte übersetzen und Fragen beantworten sollte. Dazu fütterten sie die KI mit 45 Millionen Webseiten, ausgewählt mit Hilfe von reddit. Allerdings stellten die Forscher bei einem Text fest, wie einfach man mittels des Algorithmus Fake-News generieren kann.

Clark erklärte gegenüber Technology Review, es sei nur eine Frage der Zeit, bis Künstliche Intelligenzen zuverlässig glaubhafte Fake-News in Form von Tweets oder Newsartikeln produzieren: »Es ist klar, wenn diese Technologie reift – und ich gebe ihr ein oder zwei Jahre -, dass sie für Falschinformationen oder Propaganda genutzt werden könnte.«

Das Team hinter der KI hat mittlerweile Konsequenzen aus dem Fake-News-Test gezogen und will aus Angst vor Missbrauch lediglich eine vereinfachte Version des Algorithmus öffentlich zugänglich machen.

Fake-News schreibende KI, was hält ihr davon?

 

[moby3012]

Für dich wirds reichen

 

[Phill]

sehr überraschend...

 

[Havoc]

Wenn, dann schon richtig moby:

Für deine Mudda reichts!

 

[freezy]

Wie jeder weiß ist Starscream bereits die erste Fake News schreibende KI. Von daher ist Open-AI echt hinten dran.


Die Entwicklung ist nicht verwunderlich und ich wette dass solche KIs bereits Anwendung finden. KIs werden ja auch bereits eingesetzt um hunderte fake News Youtube Videos hochzuladen die sich alle gleichen bis auf leichte Anpassungen im Ton, Bildmaterial und Script um die Youtube Sensoren zu umgehen. Anschließend werden Botnetzwerke genutzt um die Videos mit views und likes zu füttern, was dann mithilfe des Bereichs "similar videos" rechts unter den Videos dazu führt, dass eins der hundert generierten fake Videos dann hunderdtausende Views und likes hat und auch in normalen Vorschlägen für normale Nutzer auftaucht, die darauf reinfallen. Denn wie könnte ein Video was soviele views und likes hat, und wo das Script halbwegs glaubwürdig klingt, denn fake sein? Hab dazu neulich me erschreckende Analyse gelesen. Von daher, es wird bereits angewandt und immer schlimmer werden.

Und leider sind Leute wie unser liebster Threadersteller die Zielgruppe und die ersten, die auf sowas reinfallen und die Fake News dann weiter verbreiten. Aber es ist gut, dass er sich mit dem Thema befasst, evtl. auch ein Denkanstoß Quellen mal etwas mehr zu hinterfragen und nicht alles zu glauben was auf obskuren Seiten berichtet wird.

 

[Starscream]

Wie jeder weiß ist Starscream bereits die erste Fake News schreibende KI.

Meinst du etwa die haben von mir eine Raubkopie erstellt und ich die deswegen verklagen sollte?

Die Entwicklung ist nicht verwunderlich und ich wette dass solche KIs bereits Anwendung finden. KIs werden ja auch bereits eingesetzt um hunderte fake News Youtube Videos hochzuladen die sich alle gleichen bis auf leichte Anpassungen im Ton, Bildmaterial und Script um die Youtube Sensoren zu umgehen. Anschließend werden Botnetzwerke genutzt um die Videos mit views und likes zu füttern, was dann mithilfe des Bereichs "similar videos" rechts unter den Videos dazu führt, dass eins der hundert generierten fake Videos dann hunderdtausende Views und likes hat und auch in normalen Vorschlägen für normale Nutzer auftaucht, die darauf reinfallen. Denn wie könnte ein Video was soviele views und likes hat, und wo das Script halbwegs glaubwürdig klingt, denn fake sein? Hab dazu neulich me erschreckende Analyse gelesen. Von daher, es wird bereits angewandt und immer schlimmer werden.

Nun die Bots können schon einiges,

-mehrfach likes geben oder dislikes
-mehrere Scheinidentitäten Anfertigen
-fake Artikel können die schon lange schreiben
-in chat rooms sich aufhalten und wie user sich verhalten
-Youtube Videos hochladen
-mails schreiben
-face book acounts machen

Aber was wird, wenn jemand doch so einen Super Bot mal macht, der nicht nur Werbung spammen könnte, sondern das verhalten der User kopieren würde ? Wie geht man eigentlich vor, wenn man nicht mehr weiß wer Bot und wer User ist^^

Und leider sind Leute wie unser liebster Threadersteller die Zielgruppe und die ersten, die auf sowas reinfallen und die Fake News dann weiter verbreiten. Aber es ist gut, dass er sich mit dem Thema befasst, evtl. auch ein Denkanstoß Quellen mal etwas mehr zu hinterfragen und nicht alles zu glauben was auf obskuren Seiten berichtet wird.

1 Obskure Seiten hin oder her, gewisse Fakten und Sachlagen bleiben den Etablierten verborgen.
2 An sich finde ich es schon demütigend, wenn die Singularität von Troll-Bots und nicht von Skynet erreicht wird.

 

[AmeRiZe]

Meinst du etwa die haben von mir eine Raubkopie erstellt und ich die deswegen verklagen sollte?

Kann ein Bot jemanden verklagen

 

[Starscream]

Kann ein Bot jemanden verklagen

Du wirst überrascht sein, aber das können die Mittlerweile.
Die können dir sogar Mahngebühren schicken, für Sachen die du nie gekauft hast.
Die können sogar ein Inkasso Büro Auftragen um dich zu erpressen.

Die können sogar Videospiele Spielen, wie Fallout 76 oder Star Wars Battlefront 2

Also da hat man ja recht viele Möglichkeiten und wenn die schon glaubwürdige Nachrichten schreiben können, was dann? Nicht jeder Entwickler wird den Stecker ziehen und demnächst könnte ich mir schon vorstellen das man es auch auf andere Bereiche anwendet oder es sich selbst verselbständigt und das Sogar mit auto sprach und Grammatik Korrektur , LOL.

Mittlerweile wird ja z.B. wikipedia mit fake news Artikeln bombardiert, wie Troll-Armeen, die es gar nicht gibt.
https://de.wikipedia.org/wiki/Troll-Armee

Troll-Armee oder Putinbots ist (neben Trollfabrik, Kremlbots (кремлеботы) und Web-Brigaden) eine der gebräuchlichen Bezeichnungen für eine verdeckte Organisation in Russland, die im Auftrag des Staates Manipulationen im Internet betreibt. Mithilfe von Sockenpuppen – fingierten Identitäten – wird die öffentliche Stimmung in Online-Foren und den Kommentarbereichen von Nachrichten-Seiten im Sinne der russischen Regierung beeinflusst.
Erstmals beschrieben wurde das Auftauchen staatlicher Trolle in Russland bereits im Jahr 2003.[1] Die breite Öffentlichkeit wurde im Rahmen des Ukraine-Krieges ab 2013 auf sie aufmerksam.[2] Der offizielle Name für die Organisation lautete „Agentur für Internet-Forschung“ (dt. für Агентство интернет-исследований Agenstwo internet-issledowani),[3] danach „Bundesnachrichtenagentur“ (dt. für Федеральное агентство новостей Federalnoje agenstwo nowostei, FAN).[4] Im angelsächsischen Raum existiert die Bezeichnung Internet Research Agency, kurz IRA. Im Jahr 2015 wurde der Name Glavset bekannt.[5]


Organisation
Über das Vorgehen staatlich gesteuerter Trolle wurde schon 2003 in einem Artikel der Zeitschrift Westnik (Журнал Вестник) berichtet. Anna Poljanskaja, Andrej Kriwow und Iwan Lomko beschrieben, wie der Staat Einfluss auf das Internet nimmt und wie „Web-Brigaden“ die Sichtweise der russischen Regierung verbreiten. Die Brigaden würden durch ihr kollektives Auftreten, die Wiederholung bestimmter Phrasen und sprachliche Besonderheiten, Diskreditierung von Regierungsgegnern, Europäern und Amerikanern sowie durch ihre abrupte Aktivierung während Wahlen auffallen. Die Brigaden würden sich genau an den Standpunkt Wladimir Putins halten. Zum Beispiel verbreiteten die Brigaden anlässlich des Kurilenkonflikts und der Terroranschläge am 11. September 2001 antijapanische bzw. antiamerikanische Botschaften und stellten die Kommentare für längere Zeit komplett ein, nachdem Putin mit der japanischen Regierung eine Absprache getroffen und sich mit Amerika im Kampf gegen den Terrorismus solidarisiert hatte.[1] Die Autoren berichteten auch vom Auftrag, jeden der Russophobie zu bezichtigen, der nicht mit der russischen Politik übereinstimme.[6]
Der New-York-Times-Reporter Andrian Chen traf bei seinen Recherchen auf einen Betreiber einer frühen Troll-Firma, der ab 2008 Arbeiten im Interesse der Regierung ausführte. Der Betreiber erklärte, dass es viele solcher Firmen gab und deren Mitarbeiter seines Wissens in die Tausende gingen.[4] Dem Literaturkritiker und ehemaligen Stadtrat Moskaus Andrej Malgin waren diese Blogger seit dem Jahr 2010 aufgefallen.[7] Ein Aufblühen der Trollaktivitäten führte Chen jedoch auf die Anti-Regierungs- und Anti-Putin-Proteste von 2011 zurück.[4]
Wegen ihres Hauptsitzes in Olgino, einem Bezirk von Sankt Petersburg, sprach man im Englischen ab dem Jahr 2015 von den Trolls from Olgino.[8] Es gilt als gesichert, dass die Organisation im Frühjahr 2015 nach Umzug in der uliza Sawuschkina 55 in Sankt Petersburg ansässig ist.[9] Dort arbeiten mehrere Hundert freie Mitarbeiter mit entsprechenden Fremdsprachenkenntnissen. Sie betreiben in den Kommentarbereichen und Diskussionsforen nationaler und internationaler Nachrichtenportale Astroturfing mit Propaganda der russischen Regierung unter Beachtung und Verwendung vorgegebener Schlagwörter. Zusätzlich werden eigene „Nachrichtenportale“ betrieben.[10][11] Nach verschiedenen Quellen ist der Restaurantunternehmer und Putin-Vertraute Jewgeni Prigoschin für die direkte Finanzierung zuständig.
Nach Angaben eines US-amerikanischen Bundesgerichts läuft die Finanzierung über eine Firma namens ‘’Concord Management and Consulting, LLC.’’, die in den USA auch juristisch aktiv in Erscheinung tritt.[12] CNN berichtete darüber bereits detailliert im Oktober 2017.[13]
Der ehemalige Focus-Korrespondent Boris Reitschuster berichtete 2014 gegenüber dem Deutschlandfunk, er habe die Räume der Web-Brigaden mit eigenen Augen gesehen.[14] Auch der New-York-Times-Reporter Andrian Chen konnte im Rahmen einer Recherchereise das Gebäude betreten. Er wurde danach von der Organisation als CIA-Agent mit Kontakten zu Neonazis diskreditiert.[4]
In einer vom russischen Hacker-Kollektiv Anonymous International veröffentlichten E-Mail wurden die Arbeitsvorgaben der Mitarbeiter erläutert. Hiernach muss jeder Autor mindestens 50 Kommentare pro Tag verfassen und fünf Facebook-Profile verwalten, auf denen jeweils drei Einträge pro Tag verfasst werden sollen. Nur ein Bruchteil dieser Kommentare hat politischen Charakter; der Rest dient der Gewinnung von Likes und der Verlinkung aufgrund von Schlagworten. Dazu wird zumindest innerrussisch im Team gearbeitet, wobei verschiedene Bearbeiter verschiedene Rollen einnehmen: These, Antithese und die Synthese in regierungsfreundlicher Gestalt.[15][16][17]
Bots übernehmen in einem weiteren Schritt das massenhafte „liken“ der „richtigen“ Begriffe, damit sie in den Algorithmen der Suchmaschinen höher steigen sowie in den Social-Media-Plattformen höchste Aufmerksamkeit bekommen. In Estland wurden während des Jahres 2017 neunmal mehr Tweets in russischer Sprache von Robotern abgesetzt als von Menschen, wenn es um die NATO ging, ein Hauptziel der russischen Propaganda.[18] In englischer Sprache produzierten die 25 Prozent Bot-Accounts 46 Prozent der englischsprachigen Inhalte.[19] Gleichzeitig begannen die Bots, automatisierte Vorgänge im System von Twitter umgekehrt auszunutzen. So wurden Gegner der Putin-Propaganda mit Likes geflutet, um den Account zu verstopfen oder damit Twitter aufgrund der verdächtigen Aktivitäten den Account still lege. Tweets beispielsweise von Accounts mit nur 6 Followern wurden von Botnets über 20.000 Mal retweetet. Durch die Wahl geeigneter Schlüsselwörter, also von den Bots gesuchte Stichworte im Tweet, verdreifachte sich die Zahl.[20]
Im Dezember 2017 berichtete die St. Petersburger Wirtschaftszeitung Delovoy Peterburg über einen Umzug der Organisation in ein Gebäude in der Optikov-Straße 4. Die Bürofläche habe sich hiernach von 4.000 Quadtratmetern auf 12.000 Quadratmeter erhöht. Ab Februar 2018 sollen dort 800 Mitarbeiter arbeiten.[21][22]

Man was für ein Quark ohne jegliche Beweise,
da wird halt Menschen die nichts Besseres zu tun haben böswillige Absichten unterstellt LOL.



Problem ist nun mal, was macht man, wenn es tatsächlich so eine Bot Armee aufgestellt wird?

 

[freezy]

Der Text besitzt ziemlich viele Quellen, die du alle unten einsehen kannst. Es handelt sich dabei auch nicht um eine Bot-Armee, sondern menschliche um Trolle, die den politischen Diskurs in online Medien manipulieren sollen (bald wird das ganze aber in der tat immer weiter automatisiert werden). Und so wie du hier auftrittst, kriegt man ständig den Gedanken, dass du auch dazu gehörst.

Ist es ein verschlüsselter Versuch um auf deine Situation aufmerksam zu machen? Arbeitest du in der Trollfabrik als internationaler Mitarbeiter? Pack ruhig aus, wir beschützen dich

Falls du nicht dazu gehörst, dann entgeht dir ein ordentliches Sümmchen, da du deren Arbeit quasi perfekt imitierst und für lau machst.

 

[Starscream]

Der Text besitzt ziemlich viele Quellen, die du alle unten einsehen kannst. Es handelt sich dabei auch nicht um eine Bot-Armee, sondern menschliche um Trolle, die den politischen Diskurs in online Medien manipulieren sollen (bald wird das ganze aber in der tat immer weiter automatisiert werden). Und so wie du hier auftrittst, kriegt man ständig den Gedanken, dass du auch dazu gehörst.

Tja, aber leider haben die keine Beweise und machen sich mit solchen Anschuldigungen nur Lächerlich.

Ich meine da verspricht man so eine Schurken Organisation wie Team Cobra und coole Bösewichte wie aus James Bond, aber am Ende sind es nur Jungs die nichts besseres zu tun hatten, LOL.

Ist es ein verschlüsselter Versuch um auf deine Situation aufmerksam zu machen? Arbeitest du in der Trollfabrik als internationaler Mitarbeiter? Pack ruhig aus, wir beschützen dich

Ich sehe da ehr das Problem, dass die gesamt Internet Kultur durch sowas diskreditiert wird.
Weil das soll ja für beide Seiten gelten.

Falls du nicht dazu gehörst, dann entgeht dir ein ordentliches Sümmchen, da du deren Arbeit quasi perfekt imitierst und für lau machst.

Ich mache meine Sache aus Überzeugung


Aber falls diese Software tatsächlich demnächst in Betrieb geht, wird doch keiner mehr im Internet ernst genommen, jedes Artikel wird zu Trollware, jedes Bild wird zu Troll-Photoshop, jedes Video zu Troll-Editing, jeder Post wird dann doch angezweifelt.

Ich finde es nicht witzig, wenn z.B. zu einer Meldung wie "Trump ist als Politiker Vollpfosten", sich weitere 4 oder 20 Fake news Doppelgänger dazu gesellen. Sowas hätte ja kein Limit.