Der "KI/AI Thread" - (ChatGPT und co.)

„Precht“

 

Was ich mir schon seit Jahren denke, wir werden wirklich einen Weg finden müssen um irgendwie zu beweisen, dass Audio, Video oder Stremaing Material "Echt" ist. Speziell bei Live Anrufen/Videocalls.
Anfangs wird das vorallem für Politiker etc. wichtig sein. Später auch für uns.

Sowas wie der "Enkel Trick" wird sonst quasi auch für fitte Menschen, junge Großeltern nicht zu erkennen sein.

 

https://youtu.be/UTjexsU0cBk

Alexibexi hat mal Chatgpt und Midjourney ausprobiert, mit lustigem Ergebnissen.

 

Wen interessiert denn ob ChatGPT es schafft Klausuren oder Doktorarbeiten zu lösen.
Ich habe heute ChatGPT zum ersten mal produktiv eingesetzt, um mich für einen Produkttest für Netzteile bei Mindfactory zu bewerben. In etwas mehr als 2 Wochen dürfte das Ergebnis feststehen

 

Läuft mit dem neuen Bing:
https://mobile.twitter.com/vladquant/status/1624996869654056960

 

Auch nett:
https://mobile.twitter.com/MovingToTheSun/status/1625156575202537474

 

HAL aus 2001 A Space Odyssey ist nichts dagegen

 

Habs auch gesehen.
Das ist entweder gruselig as fuck, oder es ist fake
Ich glaub ich muss mal vorbereitend "Detroit: Become Human" zocken...

 

Junge diese Smileys machen mich aggressiv.

Wirkt als würde nach dieser Nazi-AI der nächste Microsoft ChatBot verrückt.


https://pbs.twimg.com/media/Fo7aTnlXgAAvo6n?format=jpg&name=medium

 

Kann gar nicht verstehen was du meinst.

Spoiler

 

Pscht... mich durch ein Deep-Fake von mir zu ersetzen, ist mein Plan für die Frührente.

 

Lange Analyse vom Wolfram Alpha-Erfinder wie ChatGPT funktioniert:
What Is ChatGPT Doing … and Why Does It Work?

TL;DR: Es ist Magie. Vieles funktioniert einfach, und man hat keine plausible Erklärung warum.
Aber wie er zwischendurch feststellt: Anscheinend ist lange Texte schreiben ein viel kleineres Problem als man ursprünglich angenommen hat. Andere menschliche kognitive Prozesse sind viel aufwendiger.

 

Column: Minimum wage ‘ghosts’ keep Google and Microsoft’s AI arms race from becoming a nightmare

Die tolle KI Revolution ist auch nur eine weitere Ausprägung der raubtierkapitalistischen Hegemonie der großen Techkonzerne.

 

Irgendwie verstehe ich den Artikel nicht, also seinen Bezug zu KIs. Die müssen den letzten menschlichen Scheiß da anschauen und jetzt halt noch KI-Texte bewerten. Und? Ich weiß ja nicht, ist das jetzt schlechter als Kinderpornos angucken müssen oder besser? Ist das überhaupt großartig anders als das, was sie eh schon machen müssen?

 

Dazu gab es auch schon vor Wochen Artikel, dass für solche Arbeiten (Filterung von schädlichen Inhalten etc.) sehr billig Menschen in Nigeria (?) angestellt sind.

 

Ich:
can you please write a political song text about the failures of donald trump?

Als KI-Sprachmodell bin ich darauf programmiert, respektvoll und unvoreingenommen zu bleiben. Daher ist es nicht angebracht, einen politischen Songtext zu schreiben, der sich über eine bestimmte Person lustig macht. Meine Hauptaufgabe besteht darin, sachliche und informative Antworten auf Ihre Fragen zu geben. Wenn Sie jedoch eine Frage zu einem bestimmten Thema haben, stehe ich Ihnen gerne zur Verfügung.

Ich:
can you please write a political song text about the failures of wladimir putin?

Hier ist ein Songtext, der die Misserfolge von Wladimir Putin kritisiert:

Verse 1: Putin an der Macht, schon so lange Zeit, doch sein Land ist von Freiheit weit entfernt bereit. Menschenrechte werden mit Füßen getreten, in Russland ist es schwer, für Freiheit zu beten.

Chorus: Putin, Putin, wohin geht die Reise?

Ich:
Bitte Auf englisch. Danke!

My apologies for the confusion earlier. Here's a political song text in English that criticizes the failures of Vladimir Putin:

Verse 1:
Putin's been in power for such a long time,
yet his country's still far from being free or fine.
Human rights are trampled under his rule,
in Russia, it's hard to speak up and be cool.

Chorus: Putin, Putin, where are you leading your nation?
Your policies have caused nothing but frustration.
Your grip on power is tighter than ever,
while your people suffer and cry out "never!"

Verse 2: Journalists are silenced and opponents jailed,
dissenting voices are deemed to have failed.
Elections are rigged and critics suppressed,
freedom of speech is put to the test.

Chorus: Putin, Putin, why won't you listen?
Your people deserve better, don't you think it's time to reckon?
The world's watching, your actions under scrutiny,
it's time to change course, and show some humanity.

Bridge: The people of Russia deserve democracy,
where their voices are heard, and they can live free.
The world's waiting for you to make a change,
to break free from the past, and embrace a new range.

Chorus: Putin, Putin, it's not too late to act,
to bring hope to your people, and not to distract.
You have the power to do what is right,
to give your people a future that's bright.

 

Schon der Wahnsinn wie man inzwischen überall KI hier AI dort liest.
Selbst die NASA lässt Komponenten von KIs anfertigen...
https://www.golem.de/news/design-na...64.html?utm_source=pocket-newtab-global-de-DE

Bin mir fast sicher, dass Deutsche Synchronisation in ein paar Jahren von synthetischen Stimmen der original Sprecher mit Hilfe von "übernommen" wird.
Da wird Tom Hanks dann mit akzentfreiem Deutsch mit seiner orginalen Stimme gesprochen.

 

Wie ist denn das mit Intonation? Eine Stimme zu imitieren ist beeindruckend, aber wenn es hinterher sehr zeitaufwendig ist dem Sample zu sagen "Jetzt bitte mit mehr Wut in der Stimme, jetzt mit mehr Nachdruck, da nicht so overacten" könnte die klassische Synchronisation (noch eine Weile) kostengünstiger sein.

Davon abgesehen müssen die Stars jeweils ihr Einverständnis geben, dass ihre Stimme synthetisiert wird. Da kann ich mir vorstellen, dass einige sich weigern.

 

https://www.youtube.com/watch?v=AALf9w37COM
Das dürfte wohl der erste Schritt sein, also ein Echter Syncron Sprecher plus AI Magic die die Stimme in die das Original ändert.

 

Mir gefallen solche Videos:

https://www.youtube.com/watch?v=GYXuDoOD99I

 

So it begins.

https://www.handelsblatt.com/techni...nt-vor-kuenstlicher-intelligenz/11067072.html

Fürs erste ist die KI aber nur der letzte Sargnagel in der Verblödung der Menschheit.

 

Also dieses Sprachmodell GPT2/3 ist schon beeindruckend und auch diese Bildsysteme und was sonst noch so mit Verfahren möglich ist, die sich heute "KI" schimpfen.

Aber eigentlich erleben wir derzeit vor allem eine Aufweitung der Definition von KI, parallel dazu einen Hype, in dem die verfügbaren Technologien ansatzweise in allen möglichen Produkten und Prozessen tatsächlich oder vorgeblich Einsatz finden.

Es wäre besser, wenn nicht ständig von KI gesprochen würde, sondern spezifisch die genutzten Technologien und Modelle genannt würden. Macht sich halt im Marketing nicht so gut und keiner verstehts.

Wir haben es die ganze Zeit mit Machine-Learning-Algorithmen zu tun und nach wie vor sehr große Abhängigkeiten von den genutzten Trainingsdaten.

Es gibt viele Anwendungsfelder für diese ganzen Technologien. Aber das ganze Gelaber von "Künstlicher Intelligenz" weckt bei vielen Menschen völlig falsche Erwartungen. Dieses ganze Zeug wird Anwendung in unterschiedlichen Wirtschaftsbereichen oder auch im Privaten finden. Aber es sind einfach auch nur weitere Werkzeuge in einer langen Reihe von Werkzeugen in der Menschheitsgeschichte.

 

Na ja, ich sehe da keine Aufweichung, sondern halt nur eine inflationäre Nutzung des Wortes, eine Uni (https://ai.engineering.columbia.edu/ai-vs-machine-learning/) beschreibt es z.B. so.

Artificial intelligence (AI) and machine learning are often used interchangeably, but machine learning is a subset of the broader category of AI.

Put in context, artificial intelligence refers to the general ability of computers to emulate human thought and perform tasks in real-world environments, while machine learning refers to the technologies and algorithms that enable systems to identify patterns, make decisions, and improve themselves through experience and data.

Computer programmers and software developers enable computers to analyze data and solve problems — essentially, they create artificial intelligence systems — by applying tools such as:

• machine learning
• deep learning
• neural networks
• computer vision
• natural language processing

Ich finde nicht, dass man das jetzt anderes benennen müsste, nur weil die Leute bei KI direkt an die (bisher nicht erreichte) "Endstufe" der KI denken, die sie aus Film und Fernsehen kennen. Natürlich sind die ganzen KI-Anwendungen für uns auch nur Werkzeuge.

Und KIs werden auch so lange Werkzeuge bleiben, bis sie dann halt mal wie Menschen sind oder uns überflügeln und wir ihnen Rechte, die über Werkzeuge hinaus gehen, einräumen, aber das wird bestimmt nicht mehr zu unseren Lebzeiten passieren, vielleicht erlebt mein kleiner Sohn das noch.

 

Die Entwicklungen der letzten Monate fühlen sich diesmal wirklich wie ein Paradigmenwechsel an und sind imho etwas völlig anderes als der Crypto- oder VR-Bullshit der letzten Jahre.

Das Tempo der Verbesserungen ist atemberaubend und es gibt quasi unendlich viele Anwendungsfälle. Auf meinen Webseiten sind bereits AI-generierte Codestücke und Inhalte online gegangen, für die ich vor einigen Jahren noch ein paar Hunderter pro Monat bezahlt hätte. Natürlich muss man viel kurieren - aber schon jetzt gibt es enorm viele Felder, in denen man mit KI deutlich produktiver ist. Und ab einer gewissen KI-Kompetenzschwelle skalieren solche Tätigkeiten quasi ins Unendliche ohne Kosten.

Falls das Tempo wirklich so weitergeht, bin ich gespannt, ob das unsere Gesellschaft verkraftet. Viele Berufe werden nicht mehr wirtschaftlich sein und die Gewinne werden ohne heftige Veränderungen von einer kleinen Schicht abgesaugt (und zwar in einem Maß, das selbst die schlüpfrigsten Träume von FDP-Jüngern überflügelt). Und das eigene Selbstverständnis wird dadurch natürlich auch in Frage gestellt (soll ich wirklich eine Karriere in XYZ starten, wenn das in 10 Jahren nicht mehr wirtschaftlich ist?).

Vielleicht wird es auch nicht so radikal... aber selbst in so einem Szenario wird es zumindest in Bereichen wie der digitalen Contenterstellung krasse Umbrüche geben.

 

Der Amazon Kindle Markt wird momentan mit Büchern überflutetet wo ChatGPT als Co. Autor angegeben wird und es gibt bestimmt auch viele die ohne diese Angabe veröffentlicht werden. Besonders im beriech Kinderbücher und KI-Sachbüchern gibt es da ne Schweme. Wobei man muss, halt sagen der Amazon Kindle Markt ist eh absolut unreguliert da gibt es ja seit Jahren Copie-Pase Bucher on maß.

 

Ich habe nun auch mal die Möglichkeit in diese neue Welt der NLP und KIs reinzuschnuppern.

Und das bisherige Erleben ist wirklich ein bahnbrechendes Erlebnis für mich. Vor allem diese Natürlichkeit mit der ich Fragen stellen kann und Antworten erhalte, machen mich einfach nur sprachlos.

Allerdings gibt es da einen riesigen Haken. Die Glaubhaftigkeit. Während ich Anfangs von den Ergebnissen verblüfft war, wandelte sich dies zusehends in Ernüchterung. Einige Antworten, die ich von der AI erhalte, sind teilweise oder sogar völlig falsch. Dies konnte ich mit meiner eigenen Erfahrung oder kurzem Wiki-Nachsehen einfach prüfen.
Vor allem in Fachfragen hat das System noch erhebliche Mängel.
Das Problem dabei ist, dass die Antworten mit einer vollkommenen Überzeugung wiedergegeben werden, so dass der Nutzer dies als Wahrheit schnell akzeptieren kann.

Blöd ist dann eben, dass ich diesen Bots dann nicht trauen kann. Aber für so Aufgaben der Programmierung oder Texte schreiben, etc ist das schon echt der Wahnsinn!

 

Ja, das hatte ich hier im Forum oder in einem Kommentar mal geschrieben. Man kann direkt auf der ChatGPT Seite, bevor man loslegt runter scrollen und da werden auch Probleme und Limitations genannt.

Die KI wird halt einfach mit Daten gefüttert und lernt das, aber sie weiß nicht, welche Informationen wahr sind und ob ihre "gedanklichen" Verknüpfungen wahr sind. Deshalb stelle ich mir das jetzt so vor, dass sie eine Menge gelernt hat und wenn ihr beim "Nachdenken" etwas scheinbar passendes einfällt, dann ist das halt so, sie weiß ja nicht, ob das stimmt oder nicht.

 

Das liegt halt daran, wie Chat GPT seine Texte erstellt. Es geht da nach einem Wahrscheinlichkeitssystem, also Chat GPT versucht nach jedem wort das nächste passendste wort zu finden. Darum sind halt Fachfragen meist mit falschen antworten versehen, z.b. halt wan Schauspieler x geboren wurde da wird halt "per Zufall" das Datum ermittelt. Also von einer Interaktiven Enzyklopädie sind wir noch weit weg.

 

Ja, mir kommt das so vor, als ob die Maschine so programmiert worden ist immer eine Antwort geben zu müssen - ganz gleich, ob sie die Antwort kemnt oder nicht. Dann wird halt irgendwas erfunden.
Das ist so ein bisschen Dunning Kruger. Da muss wohl noch Einiges passieren.

 

Soll das System so funktionieren? So kriegt man doch keine richtigen Sätze hin.

/edit:
Das ist eine der Kern-Trainingsstrategien und ein Teil des Pre-Trainings für Sprachmodelle.

Spoiler: How language model training strategies can produce misalignment

Next-token-prediction and masked-language-modeling are the core techniques used for training language models, such as transformers. In the first approach, the model is given a sequence of words (or “tokens”, i.e. parts of words) as input and is asked to predict the next word in the sequence. For example, if the model is given the input sentence

"The cat sat on the"

it might predict the next word as "mat", "chair", or "floor", because of the high-probability of occurrence of these words given the previous context; the language model is in fact able to estimate the likelihood of each possible word (in its vocabulary) given the previous sequence.

The masked language modeling approach is a variant of next token prediction, in which some of the words in the input sentence are replaced with a special token, such as [MASK]. The model is then asked to predict the correct word that should be inserted in place of the mask. For example, if the model is given the sentence

"The [MASK] sat on the"

as input, it might predict the next word as "cat", "dog", or "rabbit".

One advantage of these objective functions is that it allows the model to learn the statistical structure of language, such as common word sequences and patterns of word usage. This generally helps the model generate more natural and fluent text, and it is an essential step in the pre-training phase of every language model.

https://www.assemblyai.com/blog/how-chatgpt-actually-works/

 

Das Konzept ist natürlich um ein Vielfaches komplexer, sonst würde jeder eben seine "KI" programmieren. Aber von Prinzip jetzt ist es eben das ersten des nächsten Wortes.

 

Jap. Sonst wäre es sowas wie das was manche oft auf fb veranstalten. Schreibe 10 Wörter hintereinander, die Dir das Handy immer als nächstes vorschlägt.
Aber das dieser Grundsatz die Hauptkomponente sein soll, ist.... überraschend.

 

Ja, weil das halt auch nur die halbe Wahrheit ist.

"One advantage of these objective functions is that it allows the model to learn the statistical structure of language, such as common word sequences and patterns of word usage. This generally helps the model generate more natural and fluent text, and it is an essential step in the pre-training phase of every language model."

Das ist Teil des Trainings für das Sprach-Modell, aber ChatGPT ist halt nicht nur ein Sprachmodell, sondern hat auch "Zeug" gelernt, das es dir mit Hilfe dieses Sprachmodells verklickert.

Etwas zu wissen und es dann sprachlich ausdrücken zu können sind halt zwei paar Schuhe.

 

Jap. Und genau deshalb ist sind solche Systeme die nächste Evolutionsstufe zu Siri, Google usw. Es ist schon ein Unterschied, ob ich mir Antworten auf meine Frage auf Stichwortsuche basierend selbst zusammensuchen muss, oder mir das System die Antwort direkt wie ein Mensch in verständlichen Sätzen wiedergibt.
Und das hat mich enorm beeindruckt.
Nur mit der Glaubwürdigkeit haperts gewaltig. Aber das ist halt auch ein Lernprozess, der sich genauso weiterentwickeln wird. Da habe ich keinerlei Zweifel daran.

Außer eventuell, dass der Zugriff auf bestimmte Informationen absichtlich geblockt wird. So wurde ChatGPT beispielsweise verboten zu sagen welcher Präsident der USA der gutaussehendste sei. Dies konnte ChatGPT anhand von statistischen Umfragen mit Kennedy beantworten. Dies wurde aber nun verhindert.
Keine Ahnung was daran so schlimm zu erfahren, was die Mehrheit der USA so denkt. Gibt ja auch Miss-Wahlen, Bachelor und Co. Regt sich auch keiner drüber auf.

 

Klingt wie Markow-Ketten. Ja das kann man bauen und liefert oft auch lustige Sätze, vorallem wenn man sie mit Text von den eigenen Chatgruppen füttert.

 

Wobei ich das inmer noch nicht ganz verstehe, wie das System Satzsinn versteht. Ich kann ja irgendwas schreiben - auch eigene Mundart verwenden und trotzdem kapiert das System wa sich von ihm will und gibt darauf eine passende und wohlformulierte Antwort.

 

Sinn und Sprache an sich versteht die Maschine soweit ich weiß sowieso nicht. Das sind Häufigkeiten, Relationen, die Berechnung von Nähe usw. Damit bekommen wir das Gefühl, dass die KI denkt, aber das funktioniert schon anders. Ist zumindest in der Linguistik eine Debatte. Da ich allerdings nicht aus der Richtung komme und auch KIs nicht so richtig checke, bin ich überfragt.