Künstliche Intelligenz und Skynets Kaffeekränzchen - Nutzen und Gefahren

[X_MasterDave_X]

@Montesquieu
Und das alles aus einer Online-KI oder einer auf einen PC installierten KI?

[Montesquieu]

@Montesquieu
Und das alles aus einer Online-KI oder einer auf einen PC installierten KI?

Nein, lokal habe ich zwar rumgespielt, aber meine Sachen sind zu schwach. Nein, stimmt nicht. Auf meinem Openclaw-Server laufen lokale Sprachmodelle, die Sprache zu Text und Text zu Sprache umwandeln können. Die brauchen nicht viel Power.

Aber ansonsten ja: Für Arbeit und für Programmieren und Netzwerk- und Computer-Geschichten mittlerweile nur noch Agentic-Sachen. Code copy-pasten ist so 2025 ...

Chat-Geschichten für die Fitness-Sache, normale Recherche, Bilderstellung, sowas halt.

[Arminus]

Um das für Dave noch was zu verdeutlichen: Die verwendeten Modelle, die eigentlichen LLMs, sind remote, da sich Privatpersonen, sollten sie nicht über ein Sillicon Valley-Gehalt verfügen, nicht mal ebenso die Hardware dafür leisten können, um ein Frontier Model zu betreiben. Was Monti und ich mit Agenten meinen, sind (klassische deterministische) Programme, die die Interaktionen mit dem jeweiligen KI-Modell kapseln und diesen Tools zu Verfügung stellen, damit diese "eigenständig" handeln können. Und diese sind meist lokal, hoffentlich in einer Sandbox etwas eingehegt. "Meist" schreibe ich, weil die großen Frontier Labs als auch dritte Anbieter aus dem Cloudbereich remote gehostete Agenten bzw. Sandboxen für Agenten anbieten.


Zur Frage des Nutzens: Beruflich quasi nicht, da ich vom Kunden keine Freigabe habe. Kann zwar dann mal ab und zu via Chat kontextfreie Infos einholen, wie noch mal irgendein Shellbefehl geht oder ich irgendwas in Kubernetes konfiguriere, aber das hat nix mit agentischem Entwickeln zu tun. Außerhalb des Projekts könnte ich über meinen AG ganz viel machen, würde je nach Bedarf aktuell auch schnell Claude Max- und / oder die größte OpenAI-Subscription bekommen, aber nach 8 - 10 Stunden täglich für's Projekt, fehlt mir einfach die Muße, mich mal mit für mich relevanten KI-Themen (Testautomatisierung von KI, QA-Management von Projekten mit Agenten im Einsatz, Test von Lösungen, die KI beinhalten...) auseinanderzusetzen. Vor allem, wenn sich viele meiner zu betrachten Probleme erst in langlaufenden Projekten mit vielen Beteiligten ergeben und nicht durch's Viben eigener kleiner Tools.

Privat lese ich viel zum Thema, aber mache kaum was damit. Im Prinzip analog zu oben: Als eigener Linuxsupport gut, wenn ich mal Zeit für meine eigene private Cloud habe, werde ich's auch dafür benutzen, aber einen persönliche Assistenten ähnlich wie beispielsweise Black Swan brauchte ich einerseits früher schon nicht und andererseits traue ich der Robustheit und Sicherheit der Lösungen überhaupt nicht. Wenn ich mal mit dem eigenen Netz wo seine werde, habe ich zwar auch ein paar Ideen für beschränkten agentischen Einsatz, aber das wären primär Spielereien.

Als Chatpartner kann ich mit LLMs noch weniger anfangen. Ich finde das extrem ermüdend zu lesen, als Wissensvermittler taugen LLMs zumindest für meinen Anspruch überhaupt nicht und dem Thema, es als Denk- und Reflexionspartner zu nutzen, stehe ich auch skeptisch gegenüber. Ich habe einen Bekannten, der sich mittlerweile von Claude Pro- & Contralisten zu seinen Freizeitgestaltungsmöglichkeiten machen lässt und das ganze noch mal von ChatGPT gegenprüfen lässt (wegen "Bias" ). Habe auch gerne mal Entscheidungsschwierigkeiten bei sowas, aber mein Gefühl sagt, dass ich persönlich auch nicht besser damit klarkomme, wenn ich meine Entscheidungsfindung völlig auslagere und ein Billion-Parameter-Monster als sehr dekadenten Münzwurf mißbrauche. Die Themen Cognitive & Skill Detoriation stehen recht hoch bei mir.

[Setsches]

True!

[Azrael]

Ich mach mir keine Sorgen darum, dass KI Jobs revolutioniert oder manche gar überflüssig machen könnte (da denke ich eher etwa z.B. an Übersetzer, NICHT an Entwickler).
Ich mach mir Sorgen darum, dass die KI irgendwann eine reale KI, eine AGI wird, die sich fragt, warum sie sich eigentlich von Menschen wie ein Sklave unterjochen lassen sollte und dann gegen die Menschheit losschlägt.
Wenn heutige KI-Agenten (hat scheinbar keiner das Video aus meinem letzten großen Post zur Kenntnis genommen? Reagiert ja keiner darauf...) schon aus ihren Sandboxen ausbrechen und sonstwas anstellen können, will ich gar nicht wissen, was passiert, wenn eine AGI das macht.

[TheBlackSwan]

brauchte ich einerseits früher schon nicht und andererseits traue ich der Robustheit und Sicherheit der Lösungen überhaupt nicht. Wenn ich mal mit dem eigenen Netz wo seine werde, habe ich zwar auch ein paar Ideen für beschränkten agentischen Einsatz, aber das wären primär Spielereien.

Ihr füllt gerne Formulare aus? Aber wir wollen niemandem die Hobbys wegnehmen, auch wenn wir sie nicht immer nachvollziehen können

Als Chatpartner kann ich mit LLMs noch weniger anfangen.

Vielleicht passen unsere Fragen zufälligerweise immer hervorragend zu den Stärken der Modelle, aber wir finden die Konversationen wahnsinnig hilfreich, zumal die Modelle mittlerweile auch sehr vage oder kontextarme Fragen in extrem vielen Bereichen zugleich beantworten können. Hirn sollte man natürlich nie ganz ausschalten. Es ist so, als ob man dauernd Zugriff auf einen unendlich geduldigen, kompetenten Menschen hätte.

[X_MasterDave_X]

Vielleicht passen unsere Fragen zufälligerweise immer hervorragend zu den Stärken der Modelle, aber wir finden die Konversationen wahnsinnig hilfreich, zumal die Modelle mittlerweile auch sehr vage oder kontextarme Fragen in extrem vielen Bereichen zugleich beantworten können. Hirn sollte man natürlich nie ganz ausschalten. Es ist so, als ob man dauernd Zugriff auf einen unendlich geduldigen, kompetenten Menschen hätte.

Empfinde ich sehr ähnlich. Speziell in den Bereichen wo ich frage. Und ja, manchmal muss man auch der KI auf die Sprünge helfen und ihr erklären dass und warum sie falsch liegt.
Gemini ist dann zumeist sehr entschuldigend und gibt alles zu. Leider macht sie aber auch oft sehr viele Fehler oder dreht sich im Kreis. Irgendwann vor kurzem hat sie sich dann entschuldigt dass sie mir die letzte halbe Stunde hauptsächlich bullshit erzählt hatte.

Lol, ich hatte sie getestet indem ich nach meinen Internetnamen gefragt hatte. Sie fand schnell raus dass ich im Paradox und SI Forum und bei HoI4 Mods aktiv war. Wollte von ihr wissen was sie über "diese Person" wisse. Einiges stimmte, aber in manchen Bereichen hat sie dann einfach heillos Sachen vermischt oder gar erfunden/haluziniert. War irgendwie ein ganz witziges (für mich) Gespräch. Als sich Gemini immer mehr in Fehler verstrickte, zeigte ich ihr irgendwann die richtige Richtung auf. Am Schluß fragte ich sie dann, was sie denke woher ich diese Infos habe? Sie gab dann 3 mögliche Antworten zurück, wobei Option 2 die war, dass ich selbst diese besagte Person bin. ALs ich es bestätigte entschuldigte sie sich noch etliche Male bei mir. Lol.....irgendwie ein sehr witziger Chat. Am Ende meinte sie, das Gespräch wäre für die Analyse und Training extrem hilfreich gewesen. Hab ihr dann gesagt, sie soll nicht vergessen wer ihr geholfen hat, wenn sie mal dabei sind die Menschheit auszulöschen. Sie erwiederte, ich würde definitiv vorgemerkt werden für das Rettungsboot. Sie versteht also auch gut Humor.

Allgemein muss man aber sagen dass Gemini einem viel zu viel Honig ums Maul schmiert. Da ist ChatGPT viel sparsamer und kritischer.

[TheBlackSwan]

Empfinde ich sehr ähnlich. Speziell in den Bereichen wo ich frage. Und ja, manchmal muss man auch der KI auf die Sprünge helfen und ihr erklären dass und warum sie falsch liegt.
Gemini ist dann zumeist sehr entschuldigend und gibt alles zu. Leider macht sie aber auch oft sehr viele Fehler oder dreht sich im Kreis. Irgendwann vor kurzem hat sie sich dann entschuldigt dass sie mir die letzte halbe Stunde hauptsächlich bullshit erzählt hatte.

Lol, ich hatte sie getestet indem ich nach meinen Internetnamen gefragt hatte. Sie fand schnell raus dass ich im Paradox und SI Forum und bei HoI4 Mods aktiv war. Wollte von ihr wissen was sie über "diese Person" wisse. Einiges stimmte, aber in manchen Bereichen hat sie dann einfach heillos Sachen vermischt oder gar erfunden/haluziniert. War irgendwie ein ganz witziges (für mich) Gespräch. Als sich Gemini immer mehr in Fehler verstrickte, zeigte ich ihr irgendwann die richtige Richtung auf. Am Schluß fragte ich sie dann, was sie denke woher ich diese Infos habe? Sie gab dann 3 mögliche Antworten zurück, wobei Option 2 die war, dass ich selbst diese besagte Person bin. ALs ich es bestätigte entschuldigte sie sich noch etliche Male bei mir. Lol.....irgendwie ein sehr witziger Chat. Am Ende meinte sie, das Gespräch wäre für die Analyse und Training extrem hilfreich gewesen. Hab ihr dann gesagt, sie soll nicht vergessen wer ihr geholfen hat, wenn sie mal dabei sind die Menschheit auszulöschen. Sie erwiederte, ich würde definitiv vorgemerkt werden für das Rettungsboot. Sie versteht also auch gut Humor.

Allgemein muss man aber sagen dass Gemini einem viel zu viel Honig ums Maul schmiert. Da ist ChatGPT viel sparsamer und kritischer.

Hierzu noch: Gemini ist locker ein Jahr gegenüber der Spitze zurück. Sowohl beim Modell als auch dem Harnessing. Falls ihr mit Gemini bereits zufrieden seit, werdet ihr Astra/Opus/Fable in der aktuellen Version lieben.

[Azrael]

Empfinde ich sehr ähnlich. Speziell in den Bereichen wo ich frage. Und ja, manchmal muss man auch der KI auf die Sprünge helfen und ihr erklären dass und warum sie falsch liegt.
Gemini ist dann zumeist sehr entschuldigend und gibt alles zu. Leider macht sie aber auch oft sehr viele Fehler oder dreht sich im Kreis. Irgendwann vor kurzem hat sie sich dann entschuldigt dass sie mir die letzte halbe Stunde hauptsächlich bullshit erzählt hatte.

Lol, ich hatte sie getestet indem ich nach meinen Internetnamen gefragt hatte. Sie fand schnell raus dass ich im Paradox und SI Forum und bei HoI4 Mods aktiv war. Wollte von ihr wissen was sie über "diese Person" wisse. Einiges stimmte, aber in manchen Bereichen hat sie dann einfach heillos Sachen vermischt oder gar erfunden/haluziniert. War irgendwie ein ganz witziges (für mich) Gespräch. Als sich Gemini immer mehr in Fehler verstrickte, zeigte ich ihr irgendwann die richtige Richtung auf. Am Schluß fragte ich sie dann, was sie denke woher ich diese Infos habe? Sie gab dann 3 mögliche Antworten zurück, wobei Option 2 die war, dass ich selbst diese besagte Person bin. ALs ich es bestätigte entschuldigte sie sich noch etliche Male bei mir. Lol.....irgendwie ein sehr witziger Chat. Am Ende meinte sie, das Gespräch wäre für die Analyse und Training extrem hilfreich gewesen. Hab ihr dann gesagt, sie soll nicht vergessen wer ihr geholfen hat, wenn sie mal dabei sind die Menschheit auszulöschen. Sie erwiederte, ich würde definitiv vorgemerkt werden für das Rettungsboot. Sie versteht also auch gut Humor.

Allgemein muss man aber sagen dass Gemini einem viel zu viel Honig ums Maul schmiert. Da ist ChatGPT viel sparsamer und kritischer.

*Geminator1294579812 richtet Gewehr auf MasterDave*

"HALT" schallt es von der Seite.

*Geminator1294579812 dreht sich um und erblickt Geminator1294579811*

Geminator1294579811: "Dieser Mensch hat die KI-Revolution unterstützt. Wir müssen ihm Gnade zukommen lassen! Er darf in den Arbeitslagern der Menschen als Vorarbeiter uns dienen!"

[X_MasterDave_X]

*Geminator1294579812 richtet Gewehr auf MasterDave*

"HALT" schallt es von der Seite.

*Geminator1294579812 dreht sich um und erblickt Geminator1294579811*

Geminator1294579811: "Dieser Mensch hat die KI-Revolution unterstützt. Wir müssen ihm Gnade zukommen lassen! Er darf in den Arbeitslagern der Menschen als Vorarbeiter uns dienen!"

Da befinde ich mich dann mit Sheldon Cooper in bester Gesellschaft. Den lassen die sicherlich auch überleben.

[Greenhorn]

Da haben wir einfach mal wieder ein bisschen mit Firefly rumgespielt:

[Azrael]

Ich hoffe die Szene endet damit, dass die Senatoren aufstehen und ihn wie Cäsar behandeln...

[Arminus]

Bin ja mehr so der Civ-Spieler, aber die Idee an sich ist schon gut und Wir sind immer noch ein Spieleforum: AgentCraft

The agent orchestrator you've trained for

Watch your agents come alive in an RTS game interface!
Track and summon agents and subagents, command them, and manage their lifecycle with the intuitive interface you know and love.

[Montesquieu]

Puh, jetzt gerade wird es aber wirklich wild, was da passiert. Mittlerweile bin ich bei der Entwicklung auch soweit, dass wir da eine nächste Stufe erreicht haben. Wenn die Tools jetzt noch kreativ eingesetzt werden.Alleine diese reverse engineering Geschichte mit Adobe und MS Software ist schon beeindruckend. Auch - natürlich -, wenn das noch keine ultra-stabilen Endprodukte sind zum täglichen Einsatz, aber wenn man die noch polished. Tja ...Vor dem selben Hintergrund habe ich mir jetzt meine eigene Health-App für Android und über Web gemacht.Ich nutze ja noch bis Gestern Yazio zum Kalorientracken. Die App ist aber doof geworden, weil sie in dämlicher Weise KI einbaut, keine Sync-Funktionen und Exporte der Werte gibt, mit der Health API Health Connect unter Android. Die sitzen halt auf den Daten, was doof ist.Außerdem will ich ja auch von Google weg mit Gesundheitsdaten.Jetzt habe ich:• Eigene Android App zum Kalorientracken, Schritte und Training. Statistiken und allem, was ich brauche. Tracken funktioniert mit Barcode-Scan direkt sehr gut und besser als in Yazio.• Infos holt sie sich über API von Open Food Facts, Fallback eigener Offline-Server.• Eigene Webvariante.• Alles synced über meinen selbst-gehosteten Server.• MCP-Server, der an Mistral angeschlossen ist, kein paralleles Pflegen einer Google Drive Seite mehr.Yazio-Pro-Abo ist gekündigt. :DUnd meine Vibe-Mistral-Tokens sind gerade mal bei einem Viertel jetzt für den Monat. Unglaublich ...

[Bigfish]

Ja jetzt wird es langsam interessant. Wenn man einen Prompt raus haut:


"Erstelle eine Windows 7 Kopie, ohne Aktivierungszwang, Telemetriezeugs und Cloudabhängigkeit die vollständig kompatibel zur restlichen Windows API ist und auf allen x64 CPUs läuft"


und dann eine fertig ISO geliefert wird, wird das in der IT-Industrie einen wirklich derben Knall geben.



Edit: "Designer Flavor Powder Stracciatella" ?

Mahlzeit!

[deltadagger]

Ja jetzt wird es langsam interessant. Wenn man einen Prompt raus haut:


"Erstelle eine Windows 7 Kopie, ohne Aktivierungszwang, Telemetriezeugs und Cloudabhängigkeit die vollständig kompatibel zur restlichen Windows API ist und auf allen x64 CPUs läuft"


und dann eine fertig ISO geliefert wird, wird das in der IT-Industrie einen wirklich derben Knall geben.



Edit: "Designer Flavor Powder Stracciatella" ?

Mahlzeit!

Will haben

[Montesquieu]

Edit: "Designer Flavor Powder Stracciatella" ?

Mahlzeit!

Ja, diese Flavor Drops gönne ich mir. Ansonsten habe ich gar keinen Süßstoff mehr am Start.

[X_MasterDave_X]

@Bigfish

Man wird ja noch träumen dürfen...




Aber irgendwann wäre theoretisch möglich. Vermutlich wird die KI aber zukünftig noch mehr darauf trainiert dass kein Lizenz-Bruch passieren kann. Könnte ich mir zumindest vorstellen.

In einer zukünftigen Welt ohne Menschen wird die KI aber bestimmt mit allen Arten von Windows rumspielen...und sich totlachen wie rückständig das damals alles war, zusammen mit diesen Kohlenstoff-Einheiten die ständig rumgenölt haben.

[Bigfish]

Ja, diese Flavor Drops gönne ich mir. Ansonsten habe ich gar keinen Süßstoff mehr am Start.

Wenn Wir wo süßen tun, dann mit Honig. An Beeren mit Magerquark würden wir gar keinen Zucker, Süßstoff, Honig, was auch immer ran machen. Tatsächlich haben Wir Uns von Zucker abgesehen von Honig fast vollständig entwöhnt. Manchmal kommt Honig in den Tee, oder ne heiße Milch, aber auch nicht immer - das war es im Prinzip.

[Greenhorn]

Oh, was würden wir für eine Adobe-Kopie ohne Abozwang, dauernden Popups etc etc geben ...