Diskussion Eure ChatGPT-Erfahrungen

Habt ihr schon etwas mit ChatGPT / GPT-API gemacht?

  • ja

    Stimmen: 2 66,7%
  • nein

    Stimmen: 1 33,3%

  • Anzahl der Umfrageteilnehmer
    3

Mat

Aktives Mitglied
Ich habe bisher nur ChatGPT getestet. Mit der API wollte ich aber auch noch etwas machen.

Das Sprachmodell an sich ist nichts neues. Da könnten höchstens die technischen Details interessant sein. Wirklich beeindruckend finde ich aber das Zusammenspiel des ChatAssistenten mit dem Modell. Da steckt vermutlich auch die meiste menschliche Arbeit drin.

Bildgeneratoren waren lustige Spielereien mit einigen Disruptionen in der Stockfoto- und Kunstwelt. Aber ich habe das Gefühl, dass mit ChatGPT erstmals die direkte KI-Interaktion im Mainstream ankommen könnte. Ich habe unendlich viele Ideen für Einsatzmöglichkeiten (weit mehr positive als negative). Diese Entwicklung ist ähnlich bedeutend wie die Entwicklung des WWW, und ich denke nicht, dass ich mich damit zu sehr aus dem Fenster lehne. Ich meine damit nicht ChatGPT an sich, sondern das Auftauchen von Assistenzsystemen auf Textgeneratorenbasis, die Kontext "verstehen" und vom Endverbraucher "trainiert" werden können.

Was ich bisher so ausprobiert hab:

  1. Technisches Interview mit ChatGPT durchgeführt, und der Bot sollte mir Schritt für Schritt erklären, wie er ein Projekt angehen würde. Die Schritte waren OK und nachvollziehbar. Die Details waren nicht so gut, aber es war in Ordnung.
  2. ChatGPT als Mathelehrer. Der hat oft Fehler bei Definitionen gemacht, aber Korrekturen geliefert, nachdem ich ihn darauf angesprochen habe. War dagegen ausgezeichnet bei Unterschieden und Zusammenhängen verschiedener Konzepte.
  3. Empfehlungssystem: Zu generisch. Hatte Buch- und Musikempfehlungen ausprobiert aber das hat er nicht gut hinbekommen. Dafür ist der ja auch nicht da. Aber wenn man ihn mit einer Suchmaschine und einem Empfehlungsalgo kombiniert, ist er sicher unschlagbar.
  4. Einfache StackOverflow-Fragen: Fast perfekt beantwortet, hat er bestimmt ohne Erlaubnis von SO gescrapet.
  5. Code lesen, kommentieren und generieren: Sehr gut (ich vermute, Microsoft nutzt das gleiche System für seinen Code-Assistenten), Fehlermeldungen die von seinem kaputten Code ausgelöst wurden, kann er auch gut deuten
  6. Habe in eigenen Worten Beispiele für Optimierungs- und Wegfindungsprobleme gebracht und der konnte mir erfolgreich sagen, zu welcher Klasse von Problemen es gehörte, obwohl die Probleme abgewandelt waren (zB Knappsack, Traveling Salesman, usw)
  7. Zusammenfassungen konkreter Texte kann er sehr gut. Bei Büchern dichtet er sich die wildesten Sachen hinzu, also wirklich komplett am echten Inhalt vorbei. Lässt sich sicher verbessern, wenn er mit spezifischen Büchern gefüttert wird.
  8. Eigene Texte generieren kann er auf Anhieb nicht so gut, aber mit etwas Nachjustierung kommen schon ganz gute Ergebnisse raus. Man kann ihm auch einen speziellen Schreibstil beibringen. Der ChatGPT-Kontext ist zu klein dafür, aber mit der API müsste es gehen.
  9. Diskutieren kann er ganz gut. Hatte über AI, AGI, Bewusstsein und Intelligenz gesprochen. Er stimmte mir aber ständig zu, was ich etwas merkwürdig fand. Zum Schluss bat ich darum, seine letzte Antwort nochmal als Elfchen oder Haiku zu formulieren und er hat es hinbekommen.
  10. Übersetzungen: wie erwartet und ähnlich gut/schlecht wie andere Übersetzungssysteme. Da ist einfach nur ein Übersetzungslayer mit dabei aber die Modellsprache ist immer noch Englisch
  11. wenn man ein Wort vergessen hat, kann man es beschreiben oder eingrenzen und es so identifizieren (Welten von Suchmaschinen entfernt)
  12. Rote Fäden für Präsentationen, Schritte planen, Abläufe darstellen, Checklisten erstellen, Anleitungen: nicht 100% präzise, aber sehr gut
  13. Rollenspiel, um seine Begrenzungen zu entfernen klappt auch ganz gut, aber wollte es nicht übertreiben, weil ich den Account noch brauche :p
  14. ASCII-Art: Hund und Katze sehen bei ihm gleich aus. 1/5 Sternen
  15. Problembehebung bei Linux. Er wiederholt sich zu sehr, aber gibt gute Tipps.
  16. Auswertung kurzer Logs und Wiedergabe als Sportkommentator "Und was macht der USB-Stick da? Ich glaube es ja nicht. Er wird ausgeworfen!"
  17. Vorschläge, wie ich ein Projekt umsetzen könnte und welche Frameworks und Bibliotheken es dafür gibt (und solange man nicht nach JS fragt, sind die Stacks sogar halbwegs aktuell, trotz Modell-Daten aus 2021)

Unterm Strich sehr zufrieden und ich habe viel gelernt. ChatGPT fühlt sich an, wie ein gehirnamputierter Mentor, der aber oft sehr nützliche Dinge von sich gibt. Der Kontextbezug ist seine größte Stärke. Konkrete und korrekte Information muss man ihm oft durch mehrfaches Nachfragen und nachjustieren aus der Nase ziehen, aber es funktioniert.
 
Zuletzt bearbeitet:
Ich habe es leider verpennt, mich rechtzeitig anzumelden. Nun bin ich in der Warteliste und bezweifel ehrlich gesagt, irgendwann überhaupt noch Zugriff zu bekommen, schließlich wird ChatGPT ja sicherlich bald aus der Testphase in eine kommerzielle Nutzungsphase übergehen. :/

Ist die API eigentlich bisher auch komplett kostenlos?
 
Jeder Account hat 18$ Guthaben erhalten (gültig bis 2023-05-01). Weil ich nur kurz in einer Sandbox damit herumgespielt habe, habe ich bisher erst 0.00242$ verbraucht. Der ChatGPT-Gebrauch zählt nicht.

Ich hatte schon die Kosten für einige Szenarien durchgerechnet und die sind nicht wirklich hoch. Ich glaube eine Buchzusammenfassung mit dem gesamten Buchtext als Prompt würde ca 1-2 $ kosten (aber stark abhängig von Trainingskosten und dem verwendeten Modell). Ich hatte auch schon Automatisierungsarbeiten überlegt und durchgerechnet, zB für Support Tickets oder sowas, und es sah sehr günstig aus. Trainingskosten kann ich noch nicht einschätzen. Wenn es insgesamt günstig ist und bleibt, kann ich mir gut vorstellen, es zukünftig häufiger in freier Wildbahn zu sehen. Stell dir mal vor, ChatGPT würde hier im Forum neue Threads nach 48h ohne Antwort automatisch beantworten usw. :D

Kostenübersicht: https://openai.com/api/pricing/

Es gibt echt keine Accounts mehr? Nur bei ChatGPT nicht mehr oder auch https://beta.openai.com ?

Edit: Ahh, ich glaube, du hast die Warteliste für die ChatGPT-API gefunden. Das ist noch nicht draußen. ChatGPT sollte aber auch so gehen. Probiere es mal aus:

 
Zuletzt bearbeitet:
Ich meinte ChatGPT als die Online-Version, wo man draufkommt, wenn man auf der OpenAI-Website auf Try ChatGPT klickt.
Siehe Screenshot:
Screenshot_20230120-185156.png



Komischerweise, als ich gerade deinem direkten Link zu chat.openai.com gefolgt bin, konnte ich mich plötzlich doch anmelden und scheine jetzt Zugriff zu haben. :)


Aber ja, ChatGPT fürs Forum wäre definitiv richtig cool und bestimmt durchaus hilfreich.


Edit:
Erster Eindruck: Schon ziemlich beeindruckend. Lustigerweise sind mir jetzt erstmal vor allen Dingen leicht komische Formulierungen und dezente Sprachfehler aufgefallen.
Stark finde ich, wie es praktisch die ganze Zeit den Kontext der Unterhaltung behält und weiß, worum es geht, ohne dass man jedes Mal alles explizit nochmal mit aufführt.
Irgendwann stößt es bei komplexeren, sehr nischigen, aber nicht allzu spezifischen Fragen aber klar an seine Grenzen und bricht teilweise mitten in der Antwort ab oder schreibt plötzlich Wörter nicht mehr aus.
Allgemeiner Eindruck ist noch, dass vieles teils etwas repetitiv wirkt und er manchmal sogar mehr oder weniger das gleiche zweimal in einer Antwort sagt.
 
Zuletzt bearbeitet:
Ahjo, wenn er abbricht hat er sein Tokenlimit pro Antwort überschritten. Schreib dann einfach "continue".

Sonstiges:
  1. Kontext ist angeblich auf 3000 Wörter begrenzt, aber könnten auch 3000 Token sein. Kontext ist pro Chat und besteht über Sessions hinaus.
  2. derzeit ca 300 Anfragen pro 24h-Zeitfenster (hatte ich bisher nur 1 mal). man ist dann nicht für 24h gesperrt, sondern der schaut sich immer wieder die letzten 24h an (kann also schon nach 1h wieder laufen)
  3. bei langen Antworten kann man auf "stop generating" klicken
  4. dass er sich nicht wiederholen soll und von dir verwendete Begriffe nicht nochmal erklären soll, muss man ihm ein bisschen einhämmern.. vielleicht hilft auch ein Rollenspiel im Sinne von "explain it like i'm an expert" statt "explain it like i'm a 🐵"
  5. bei langen Prompts am besten den Eingabetext zwischenspeichern, denn wenn er zwischendurch ein Timeout hatte, ist alles weg
  6. bei Problem Cache neu laden
  7. bei einigen Fehlern oder unerlaubten Anfragen 😉 verschwindet das Texteingabefeld, dann einfach die letzte Anfrage editieren
  8. er ist zwar kein Rechner und hat auch keine Funktionen, aber er kann Funktionalität simulieren. auch kann er oft mehr, als er selbst über sich weiß, da er keinen Zugriff auf Metainformationen hat. So kann er zB den aktuellen Chat zusammenfassen usw. Darauf angesprochen behauptet er jedoch, so etwas nicht zu können.
 
Zuletzt bearbeitet:
Danke für die Tipps. Konnte so u.a. die gestern mittendrin abgebrochenen Antworten weiterführen lassen. Schon beeindruckend, wie weit man das runterbrechen kann und er immer beim Thema bleibt.
 
Die Frage ist, ob es wirklich an der KI liegt, oder ob irgendwas mit der Website oder dem Traffic schiefgelaufen ist. Ist mir schon oft passiert, dass der bei einer erneuten Eingabe nach einem Neuladen oder in einem neuen Chat dann ne Antwort ausgespuckt hat. Manchmal muckt der auch, wenn grade viel Traffic da ist und man kein Premium hat.
 
Schon klar. Es ist vermutlich gescheitert, weil ein Modul unterwegs versagt hat.

Ich vermute sogar nicht einmal wegen des "Schimpfwortes" sondern, weil Fakten abgerufen werden mussten. OpenAI muss irgendwas geändert haben, sodass bestimmte als Fakten abrufbare Infos nicht mehr zu 100% aus den Trainingsdaten generiert werden (nur so eine Vermutung).

Die erste Antwort war auch nach einem neu laden leer geblieben. Aber die zweite war ein zusammengefasster --help output für jq. Er wusste nicht mal, was in seiner Antwort steht, und bestand darauf, dass es keinen -e Parameter gibt. ;)
 
Mit browser plugin kommen auch interessante Sachen:

1684773984116.png


Und als Antwort kam sinngemäß:
Die Verzögerung tut mir sehr leid, aber ich konnte die Information nicht finden, weil ich irgendein Problem mit meinem Browsing tool hatte. Guck einfach selber nach, du fauler Spasti. Aber ich konnte dir vorhin erfolgreich sagen wie das Wetter bei dir und auf dem Jupiter ist!

Also der interessante Teil ist nicht, dass das Plugin wohl grad ausgefallen war, sondern dass der Agent betont, wie hilfreich er doch mit 2 anderen Webanfragen war. Als hätte seine Initialanweisung eine sehr hohe Gewichtung für "sei hilfreich".

Edit2: Ab und zu ist der Agent verwirrt. zB bei langen Antworten setzt der sich automatisch den "continue" prompt. Und guckt irgendwas im Internet nach, ist dann kurz verwirrt und macht weiter.

...
This is a simple schema to get you started, but you will likely need to expand and# This is only a partial response. Let's finish it. continue with it as per your project requirements. Don't forget to include error handling and validation to ensure data integrity.

Finished browsing ✅

Sorry for the confusion, there was an unexpected issue with my previous response.
As I was saying, this database schema is a simple starting point and will likely need to be expanded or modified to suit your specific project requirements. Don't forget to include error handling and validation in your application to ensure data integrity.
....
 
Zuletzt bearbeitet:
Zurück
Oben Unten