16. Jan. 2023 18 min read

Ankündigung von [Together] - Ein OpenChatKit für anonyme Kommunikation

Lese Details zu Together OpenChatKit --> Von Together, LAION und Ontocord entwickeltes Open-Source-Projekt

Was ist Together OpenChatKit?

Together OpenChatKit ist ein von Together, LAION und Ontocord entwickeltes Open-Source-Projekt, das eine leistungsstarke Basis für die Erstellung von spezialisierten und universellen Chatbots für verschiedene Anwendungen bietet. Das Kit umfasst vier Schlüsselkomponenten: ein auf Anweisungen abgestimmtes großes Sprachmodell, Anpassungsrezepte zur Feinabstimmung des Modells, ein erweiterbares Abfragesystem, um das Modell mit live aktualisierten Informationen zu ergänzen, und ein Moderationsmodell, um unangemessene oder domänenfremde Fragen zu filtern. OpenChatKit verfügt über Tools, mit denen Community-Mitglieder Feedback geben, neue Datensätze hinzufügen und die Sprachmodelle kontinuierlich verbessern können.

Quellen:

Warum Together OpenChatKit verwenden?

1. Produktivität und Effizienz steigern

Mit OpenChatKit, das auf dem GPT-NeoX-Modell von EleutherAI basiert und mit Daten, die sich auf Konversationsinteraktionen konzentrieren, fein abgestimmt wurde, können Anwender ihre Produktivität und Effizienz steigern. Das Modell wurde mit dem OIG-43M-Datensatz weiter verbessert und bietet eine solide Grundlage für eine Vielzahl von natürlichsprachlichen Aufgaben wie Multi-Turn-Dialoge, Fragebeantwortung, Klassifizierung, Extraktion und Zusammenfassungen. Darüber hinaus erzielt GPT-NeoXT-Chat-Base-20B beim HELM-Benchmark höhere Werte als sein Basismodell GPT-NeoX, insbesondere bei Aufgaben, die die Beantwortung von Fragen, die Extraktion und die Klassifizierung betreffen. Um die Produktivität und Effizienz zu maximieren, können Anwender das Modell nutzen, um lange Dokumente schnell in einem einzigen Satz zusammenzufassen, Fragen zu einem Dokument zu beantworten und strukturierte Informationen aus unstrukturierten Dokumenten zu extrahieren.

2. Schaffe eine kollaborative Umgebung

OpenChatKit trägt dazu bei, ein kollaboratives Umfeld zu schaffen, indem es eine leistungsstarke Open-Source-Basis zur Verfügung stellt, um sowohl spezialisierte als auch allgemeine Chatbots für verschiedene Anwendungen zu erstellen. OpenChatKit bietet Anwendern die Möglichkeit, Datensätze beizusteuern und Feedback zu geben, sowie ein erweiterbares Abfragesystem, das es Anwendern ermöglicht, die Antworten des Bots mit Informationen aus einem Dokumentenspeicher, einer API oder einer anderen aktuellen Informationsquelle zu ergänzen. Außerdem können Anwender mit dem Moderationsmodell filtern, auf welche Fragen der Bot antwortet, und die Feedback-App auf Hugging Face ermöglicht es den Mitgliedern der Community, den Chatbot zu testen und Feedback zu geben. All diese Funktionen tragen dazu bei, ein offenes und kollaboratives Umfeld für die KI-Forschung zu schaffen.

3. Verbesserter Informationsaustausch und Wissensverbreitung

Gemeinsam ist OpenChatKit ein leistungsfähiges Open-Source-Projekt, das es Forschern, Entwicklern und Unternehmen ermöglicht, die Fähigkeiten des maschinellen Lernens und der künstlichen Intelligenz zu nutzen und zu verbessern. Mit der Möglichkeit, den Chatbot auf spezielle Anwendungen abzustimmen, kann OpenChatKit den Informationsaustausch und die Wissensverbreitung deutlich verbessern. Indem Anwender/innen Feedback geben und zum Datensatz beitragen können, kann OpenChatKit so trainiert werden, dass es spezifische Fragen von Anwender/innen besser erkennt und beantwortet. Außerdem reduziert die aggressive Kommunikationskomprimierung von OpenChatKit bei der Feinabstimmung des Modells die Datenmenge, die zum Trainieren des Modells benötigt wird, und macht es so effizienter und kostengünstiger für die Anwender. Durch die Nutzung der dezentralen Cloud ist OpenChatKit außerdem in der Lage, den Anwendern genauere und robustere Ergebnisse zu liefern. Mit diesen Funktionen wird OpenChatKit den Informationsaustausch und die Wissensverbreitung verbessern, indem es den Anwendern genauere und reaktionsschnellere Ergebnisse liefert.

4. Zugang zu fortschrittlichen KI-Tools

Diese Woche kündigte Together OpenChatKit fortschrittliche KI-Tools wie Browser-, Plugin- und API-Unterstützung für ChatGPT an, wie von OpenAI hervorgehoben wurde. Diese Tools sollen die Chatbot-Fähigkeiten verbessern und Entwicklern helfen, ansprechende Kundenerlebnisse zu schaffen. Außerdem bietet das Unternehmen Funktionen wie Avatare und KI-gesteuerte Geschwindigkeitsverbesserungen für Anwender von Microsoft Teams an.

5. Zugang zu einem großen Datensatz

Together OpenChatKit bietet Zugang zu verschiedenen Datensätzen für eine Vielzahl von natürlichsprachlichen Aufgaben wie Dialog, Fragebeantwortung, Klassifizierung, Extraktion und Zusammenfassung. Der von Together, LAION und Ontocord erstellte OIG-43M-Datensatz ist der größte Datensatz, der für das Training von OpenChatKit verwendet wird und über 43 Millionen Anweisungen enthält. OpenChatKit kann mit Hilfe von Datensätzen, die vom Anwender erstellt wurden, für spezielle Aufgaben wie z. B. die Beantwortung von Bildungsfragen, die Beantwortung von Finanzfragen und die Kundenbetreuung angepasst werden. Die Modellgewichte und Datensätze können bei Hugging Face heruntergeladen werden.

6. Möglichkeit zur Feinabstimmung deines Chat-Modells

OpenChatKit hilft dir bei der Anpassung deines Chatmodells, indem es Werkzeuge zur Verfügung stellt, mit denen du den Chatbot auf spezielle Anwendungen abstimmen kannst. Dazu musst du Datensätze mit Beispielinteraktionen vorbereiten, die Daten in einer jsonl-Datei speichern und den Anweisungen zur Feinabstimmung des Chatmodells folgen. Außerdem kann ein Moderationsmodell angepasst werden, um unangemessene oder nicht zum Thema gehörende Fragen herauszufiltern. Die Schritte zur Anpassung deines Chat-Modells mit OpenChatKit sind wie folgt:

Bereite deine Datensätze vor, mit Beispielinteraktionen im angegebenen Format.
Speichere deinen Datensatz als jsonl-Datei und folge den Anweisungen hier, um das Chat-Modell fein abzustimmen.
Bereite einige Moderationsdaten vor und passe das Moderationsmodell bei Bedarf an.
Greife auf das OpenChatKit GitHub Repository zu, um Dokumentation und Quellcode zu erhalten.
Ändere die Gewichte für deine eigenen Anwendungen oder Untersuchungen.
Nutze das Moderationsmodell, um die Äußerungen der Anwender auf unangemessene Inhalte zu prüfen und Fragen außerhalb der Domäne zu filtern.
Klassifiziere die Fragen der Anwender mit Hilfe der "few-shot classification" in fünf Kategorien.
Entwickle spezifische Datensätze, die für verschiedene kulturelle und organisatorische Kontexte geeignet sind.

7. Möglichkeit zur Zusammenarbeit bei Forschungsprojekten

OpenChatKit hilft bei Forschungsprojekten, indem es eine vielseitige, anpassbare und erweiterbare Plattform für die Verarbeitung natürlicher Sprache bietet. Es hilft bei der Extraktion und Klassifizierung von Daten sowie bei der Beantwortung von Fragen und der Beantwortung von Aufforderungen. Außerdem kann OpenChatKit auf bestimmte Anwendungen oder Bereiche abgestimmt werden, aktuelle Informationen aus externen Quellen einbeziehen und unpassende oder nicht zum Bereich gehörende Fragen herausfiltern. Diese Funktionen ermöglichen es den Forschern, fundiertere Entscheidungen zu treffen und tiefere Einblicke in ihre Projekte zu gewinnen.

8. Zugang zu Ressourcen und Infrastruktur

OpenChatKit bietet Zugang zu Ressourcen und Infrastrukturen, die es dem Chatbot ermöglichen, seine Antworten mit Informationen aus einer Vielzahl von Quellen zu ergänzen. Das System integriert zum Beispiel live-aktualisierte Informationen aus externen Quellen wie einem Dokumentenspeicher, einer API oder einer anderen live-aktualisierten Quelle und unterstützt auch einen Wikipedia-Index und Beispielcode für den Aufruf einer Websuch-API während der Abfrage. Dadurch erhält der Chatbot den Kontext, um Fragen mit aktuellen Informationen zu beantworten.

9. Möglichkeit, neue Funktionen zu testen

Mit OpenChatKit kannst du neue Funktionen testen, indem du zunächst deine Datensätze mit Beispielinteraktionen im angegebenen Format vorbereitest und den Datensatz als jsonl-Datei speicherst. Befolge dann die Anweisungen zur Feinabstimmung des Chatmodells und achte darauf, ein Moderationsmodell einzubauen, um Fragen außerhalb der Domäne zu filtern. Schließlich kannst du die Dokumentation und den Quellcode im GitHub-Repository nutzen, um die Gewichte für deine eigenen Anwendungen oder Forschungsarbeiten gründlich zu optimieren, zu verändern oder zu überprüfen.

10. Verschaffe dir einen Vorteil gegenüber der Konkurrenz

OpenChatKit verschafft Unternehmen einen Vorsprung vor der Konkurrenz, indem es ihnen Zugang zu einem leistungsstarken Sprachmodell verschafft, das speziell für Aufgaben wie Konversation, Fragen und Antworten, Klassifizierung, Extraktion und Zusammenfassung entwickelt wurde. Mit GPT-NeoXT-Chat-Base-20B können Unternehmen ihren Kundenservice effizienter und effektiver gestalten, indem sie Kundenanfragen schnell und präzise beantworten. Außerdem können die fortschrittlichen KI-Funktionen von OpenChatKit Unternehmen dabei helfen, mehr über ihre Kunden zu erfahren, um ihnen bessere, auf ihre Bedürfnisse zugeschnittene Dienstleistungen und Produkte anbieten zu können. Die präzisen und genauen Daten, die OpenChatKit bereitstellt, können Unternehmen auch dabei helfen, klügere Entscheidungen zu treffen, da sie Kundentrends und -vorlieben genauer analysieren können. Alles in allem verschafft OpenChatKit Unternehmen Zugang zu fortschrittlicher KI-Technologie, die ihnen einen Vorteil gegenüber der Konkurrenz verschaffen kann.

So verwenden Sie Together OpenChatKit

Schritt 1: Together installieren

Die Installation von Together OpenChatKit ist einfach und unkompliziert. Hier sind die Schritte:

Lade das OpenChatKit von GitHub herunter und entpacke die Datei.
Nachdem du die Datei entpackt hast, findest du mehrere Ordner, darunter den Ordner "openchatkit".
Navigiere zum Ordner "openchatkit" und führe den Befehl "npm install" aus, um die Abhängigkeiten zu installieren.
Jetzt musst du eine Konfigurationsdatei erstellen. Dazu erstellst du eine Datei namens "config.json" im Ordner "openchatkit" und setzt die entsprechenden Parameter.
Sobald die Konfigurationsdatei erstellt ist, führe den Befehl "npm start" aus, um den Server zu starten.
Um die Installation zu testen, öffne ein Browserfenster und gib die URL http://localhost:3000/chatbot ein. Wenn alles richtig funktioniert, siehst du eine Willkommensnachricht.

Herzlichen Glückwunsch! Du hast Together OpenChatKit erfolgreich installiert. Jetzt kannst du das OpenChatKit Framework nutzen, um deinen eigenen Chatbot zu erstellen.

Schritt 2: Ein Konto erstellen

Wie bekomme ich ein Konto bei Together OpenChatKit? [Schritt-für-Schritt-Anleitung]

Schritt 1: Überprüfe deine E-Mail. Zu deiner Sicherheit müssen wir dich erneut authentifizieren. Klicke auf den Link, den wir dir geschickt haben, oder klicke hier, um dich anzumelden.

Schritt 2: Aktiviere JavaScript und Cookies. Unsere Cookies benötigen JavaScript, um korrekt zu funktionieren. Bitte schalte JavaScript ein oder entblocke Skripte.

Schritt 3: Melde dich mit deinem WordPress.com-Konto an, wenn du bereits eins hast.

Schritt 4: Überspringe den Vorgang oder kopiere den Link für den nächsten Schritt.

Schritt 5: OpenSea.io muss die Sicherheit deiner Verbindung überprüfen, bevor du fortfährst. Anfragen von bösartigen Bots können sich als legitimer Datenverkehr ausgeben. Gelegentlich kann es vorkommen, dass du diese Seite siehst, während die Seite sicherstellt, dass die Verbindung sicher ist.

Schritt 6: Sobald die Verbindung sicher ist, wird die Website fortgesetzt.

Schritt 7: Nachdem die Website fortgefahren ist, musst du deine Kontaktinformationen, deinen Namen und deinen Lebenslauf eingeben, um dein Konto zu erstellen.

Schritt 8: Zum Schluss kannst du dich für den Newsletter anmelden, wenn du möchtest.

Wenn du Probleme hast, kannst du dich per E-Mail an das Support-Team wenden, das dir vielleicht weiterhelfen kann.

Schritt 3: Anpassen deiner Profilseite

" Die Anpassung deiner Profilseite mit Together OpenChatKit ist ein einfacher Prozess. Logge dich zunächst in dein Konto ein und wähle 'Anpassen' aus dem Menü. Hier kannst du deinen Namen und deinen Lebenslauf hinzufügen und festlegen, ob deine Abonnements auf deiner Profilseite angezeigt werden sollen. Du kannst dich auch mit sozialen Netzwerken wie Twitter und Facebook verbinden. Sobald du deine Profilseite angepasst hast, solltest du deine Änderungen speichern und in deiner E-Mail nach einem Link suchen, mit dem du dein Konto aus Sicherheitsgründen erneut authentifizieren kannst. Schließlich kannst du deine Abonnements verwalten und Beiträge im Reader ansehen. Mit Together OpenChatKit kannst du deine Profilseite ganz einfach anpassen und sie zu deiner eigenen machen."

Schritt 4: Gruppenunterhaltungen erstellen

Mit Together OpenChatKit kannst du ganz einfach Gruppenunterhaltungen erstellen. Hier ist eine Schritt-für-Schritt-Anleitung: 1. Erstelle ein eigenes Modell oder verwende das von OpenChatKit trainierte Modell, um die erste Konversation zu erstellen. 2. Verwende die Anpassungsrezepte von OpenChatKit, um das Modell zu verfeinern und das gewünschte Gesprächserlebnis zu schaffen. 3. Nutze das erweiterbare Abfragesystem von OpenChatKit, um das Modell mit aktuellen Informationen zu ergänzen. 4. Nutze das Moderationsmodell von OpenChatKit, um unangemessene oder nicht zum Thema gehörende Fragen herauszufiltern. 5. Nutze schließlich die Nutzungsvereinbarung und die Inhaltsrichtlinie, um sicherzustellen, dass die Anwender sich an die Nutzungsbestimmungen halten. Mit Together OpenChatKit kannst du Gruppenunterhaltungen erstellen, die auf deine Bedürfnisse zugeschnitten sind.

Schritt 5: Eine Unterhaltung beginnen

Um eine Konversation mit Together OpenChatKit zu starten, navigierst du zunächst zur Seite OpenChatKit Playground. Hier werden dir eine Reihe von Tools und Prozessen zur Verfügung gestellt, die dir den Einstieg erleichtern. Anschließend kannst du den Chatbot mithilfe der Anpassungsrezepte anpassen, um das Modell zu verfeinern und einen speziellen Chatbot zu erstellen. Sobald du den Chatbot angepasst hast, kannst du ihn nutzen, um mit anderen zu kommunizieren. Dazu gibst du einfach dein Gesprächsthema in das Chatfenster ein und klickst auf die Schaltfläche "Gespräch starten", um das Gespräch zu beginnen.

Schritt 6: Nachricht speichern

Wie speichert man eine Nachricht über Together OpenChatKit?

[Schritt-für-Schritt-Anleitung]:

1. Gehe auf die Together OpenChatKit-Website und melde dich an.

2. Wähle die Nachricht aus, die du speichern möchtest.

3. Klicke auf die Schaltfläche "Speichern" in den Optionen oben auf der Seite.

4. Es wird eine Bestätigungsmeldung angezeigt. Klicke darauf, um die Nachricht zu speichern.

5. Du kannst die gespeicherte Nachricht nun im Ordner "Gespeicherte Nachrichten" deines Kontos abrufen.

6. Um auf die gespeicherte Nachricht zuzugreifen, logge dich in dein Konto ein und klicke auf die Registerkarte "Gespeicherte Nachrichten".

7. Du kannst die gespeicherte Nachricht nun nach Bedarf ansehen, bearbeiten oder löschen. 8. Achte darauf, dass du JavaScript aktivierst und die Verwendung von Cookies akzeptierst, wie von Together OpenChatKit gefordert. Q

Open-Source-Modelle für anonyme Kommunikation

1. Ein Open-Source-Modell für anonyme Kommunikation

Open-Source-Modelle für anonyme Kommunikation sind für Together von Vorteil, da es den Anwendern ermöglicht, zu kommunizieren, ohne identifiziert zu werden. Durch die quelloffene Plattform können Anwender miteinander in Kontakt treten und Themen diskutieren, ohne sich Sorgen machen zu müssen, dass ihre Daten und ihre Identität preisgegeben werden. Dies fördert auch sinnvolle und durchdachte Gespräche, da die Menschen keine Angst haben, beurteilt oder identifiziert zu werden. Außerdem können die Anwender offener und ehrlicher über ihre Meinungen und Überzeugungen sprechen, was die Transparenz und das Vertrauen erhöht. Open-Source-Modelle für anonyme Kommunikation bieten den Anwendern auch einen sicheren Raum, in dem sie sich konstruktiv austauschen können, ohne Angst haben zu müssen, beurteilt oder diskriminiert zu werden. Dies kann dazu beitragen, eine gesunde Online-Gemeinschaft zu fördern, in der die Anwender ihre Meinung frei und offen äußern können, ohne Angst vor Konsequenzen zu haben. Außerdem wird so sichergestellt, dass die Daten der Anwender sicher und privat bleiben, was für viele Anwender wichtig ist, die Wert auf ihre Privatsphäre legen. Insgesamt sind Open-Source-Modelle der anonymen Kommunikation für Together von Vorteil, da sie den Anwendern eine sichere Plattform bieten, auf der sie sich ohne Angst vor Verurteilung an sinnvollen Gesprächen beteiligen können.

2. Ermöglicht eine einfache Anpassung des Chatbot-Modells

Together stellt verschiedene Tools zur Verfügung, mit denen das Modell von OpenChatKit für bestimmte Anwendungen und Bereiche angepasst werden kann. Die Anpassungsrezepte können zur Feinabstimmung des Modells verwendet werden, um eine höhere Genauigkeit bei deinen Aufgaben zu erreichen.

Es gibt eine Schritt-für-Schritt-Anleitung für die Verwendung der Rezepte:

1. Wähle ein Rezept auf der Seite OpenChatKit-Rezepte aus.

2. Richte deine Trainingsumgebung ein.

3. Lade den Datensatz für deine Anwendung herunter und verarbeite ihn vor.

4. Trainiere das Modell mit dem ausgewählten Rezept.

5. Evaluiere das Modell, um zu sehen, wie gut es abschneidet.

6. Stimme das Modell mithilfe der Hyperparameter-Optimierung ab.

7. Stimme das Modell mit den spezifischen Informationen für deine Anwendung ab.

8. Teste das Modell mit realen Daten und bewerte seine Leistung.

9. Setze das Modell in der Produktion ein.

3. Beiträge zu Datensätzen und Zusammenarbeit in Forschungsprojekten

Die Verwendung von Datensätzen hilft Forschungsprojekten, indem sie ihnen eine große Menge an Daten zur Verfügung stellt, mit denen sie ihre Modelle trainieren können. Die Open-Source-Datensätze von Projekten wie OpenChatKit bieten eine Quelle von Daten, die sowohl genau als auch aktuell sind. Durch die Verwendung von Datensätzen in Forschungsprojekten können KI-Forscher/innen, -Entwickler/innen und -Unternehmen genauere Modelle entwickeln, die in der Lage sind, komplexe Aufgaben zu bewältigen, z. B. Schlussfolgerungen zu ziehen, Diskussionen mit mehreren Personen zu führen, Wissen zu vermitteln und Antworten zu generieren. Außerdem können sie mit Hilfe von Open-Source-Projekten wie OpenChatKit auf riesige Grundmodelle und Datensätze zugreifen, die zur Entwicklung besserer und effizienterer Modelle beitragen können.

4. Möglichkeit der Feinabstimmung des Modells für höhere Genauigkeit

OpenChatKit und die Werkzeuge zur Feinabstimmung ermöglichen eine höhere Genauigkeit bei der Modellbildung. Durch die Bereitstellung von Anleitungshilfen und die Feinabstimmung des Modells mit spezifischen Informationen kann die Genauigkeit des Modells erheblich gesteigert werden, wie das Beispiel von Googles Med-PaLM zeigt, das eine Genauigkeit von 92,6 % im Vergleich zu nur 50 % mit PaLM erreichte. Außerdem hilft das in OpenChatKit enthaltene Moderationsmodell dabei, Fragen außerhalb der Domäne herauszufiltern und sicherzustellen, dass das Modell nur auf Anfragen antwortet, die angemessen und themenbezogen sind, was zu einer noch höheren Genauigkeit führt.

5. Bequemes An- und Abmelden für die Anwender

Eine bequeme An- und Abmeldung kann das Miteinander verbessern, indem sie es den Anwendern erleichtert, schnell und sicher auf das System und ihre Kontodaten zuzugreifen. Durch die Verwendung von Cookies, Links zur erneuten Authentifizierung und anderen Sicherheitsmaßnahmen können die Anwender darauf vertrauen, dass ihre Daten sicher sind, während sie im System angemeldet sind. Außerdem können die Anwender durch den einfachen Zugang zum System mit ihrer Gemeinschaft verbunden bleiben und ihr Gefühl der Zugehörigkeit und des gemeinsamen Ziels stärken. Ein verbesserter Komfort für die Anwender kann auch dazu beitragen, ein Gefühl der Transparenz und des Vertrauens zwischen den Anwendern und dem System zu schaffen, was das Zusammengehörigkeitsgefühl weiter fördert.

6. Chatbot mit verbesserten Fähigkeiten zur Informationsgewinnung, Klassifizierung und Beantwortung

Die Vorteile eines Chatbots mit verbesserten Fähigkeiten zur Informationsgewinnung, Klassifizierung und Beantwortung sind zahlreich. Mit OpenChatKit kannst du leistungsstarke, individuelle Chatbots erstellen, die eine Vielzahl von natürlichsprachlichen Aufgaben mit hoher Leistung bewältigen können. Die mitgelieferten Tools und Rezepte helfen dir dabei, den Chatbot für bestimmte Anwendungen oder Bereiche zu optimieren und anzupassen. Das erweiterbare Abfragesystem ermöglicht es dem Chatbot außerdem, aktuelle Informationen aus externen Quellen einzubeziehen und unpassende oder fachfremde Fragen zu filtern. All diese Funktionen zusammen ergeben einen leistungsstarken und vielseitigen Chatbot, der den Kundenservice optimieren, alltägliche Aufgaben automatisieren und genaue und zeitnahe Informationen liefern kann.

7. Verbessertes Browsing-Erlebnis mit zusätzlichen Ausgabe- und Informationsmöglichkeiten

Die Together-Funktion von OpenChatKit bietet leistungsstarke Ausgabe- und Informationsmöglichkeiten. Mit seinem erweiterbaren Abfragesystem kann es live aktualisierte Informationen aus externen Quellen einbinden und mit dem Moderationsmodell unangemessene oder domänenfremde Fragen herausfiltern. Mit dem Abfragesystem kann der Chatbot relevante Informationen zu einer bestimmten Frage abrufen und erhält so Zugang zu aktuellen Informationen. Er kann z. B. den mitgelieferten Wikipedia-Index und den Beispielcode für den Aufruf einer Websuch-API während des Abrufs nutzen. Außerdem unterstützt es eine Live-Update-Quelle, die dem Modell den Kontext liefert, um Fragen mit aktuellen Informationen zu beantworten.

8. Erhöhte Kommunikationseffizienz mit reduzierter Latenzzeit

Der Einsatz von Together ermöglicht es Forschern, Entwicklern und Unternehmen, die neuesten Fortschritte im Bereich der künstlichen Intelligenz auf effizientere und zuverlässigere Weise zu nutzen und zu verbessern. Durch die Komprimierung der Kommunikation benötigt OpenChatKit für den gesamten Feinabstimmungsprozess nur 1,95 TB an Kommunikation, im Vergleich zu 172 TB bei der Kommunikation mit fp16-Präzision, was das parallele Training von Daten über langsame 1-Gbps-Netzwerke ermöglicht. Die Zeit, die für die Feinabstimmung mit dieser Technik benötigt wird, ist fast so schnell wie bei der Ausführung über 100Gbps-Netzwerke in Rechenzentren, was das Potenzial dezentraler Berechnungen für die Erstellung von Fundamentmodellen zeigt. Darüber hinaus werden durch die Nutzung kohlenstoffnegativer Rechenressourcen und die Partnerschaft mit Crusoe Cloud die Latenzzeiten weiter reduziert und die Kommunikationseffizienz erhöht.

9. Erhöhte Sicherheit durch verstärkte Verschlüsselung und Passwortschutz

Together erhöht die Sicherheit durch verstärkte Verschlüsselung und Passwortschutz, indem es notwendige Cookies verwendet, damit die Seite funktioniert, und Leistungs- und Funktions-Cookies setzt, die helfen, den Verkehr auf der Seite zu messen. Durch den Einsatz neuester Verschlüsselungsprotokolle und zusätzlicher Passwortschutzebenen stellt Together sicher, dass die Daten der Anwender geschützt sind. Darüber hinaus hat Together in Zusammenarbeit mit LAION und Ontocord den OIG-43M-Datensatz erstellt, der auf dem GPT-NeoX-Modell von EleutherAI basiert und mit Daten, die sich auf Konversationsinteraktionen konzentrieren, verfeinert wurde. So wird sichergestellt, dass die Daten geschützt und sicher sind und die Benutzererfahrung so reibungslos wie möglich ist. Darüber hinaus hat Together eine JavaScript- und Cookie-Funktion implementiert, um die Daten der Anwender weiter zu schützen. So können böswillige Bots erkannt und sichergestellt werden, dass die Verbindung sicher ist, bevor sie fortgesetzt wird. Schließlich verfügt Together über die GPT-NeoXT-Chat-Base-20B, ein großes Sprachmodell, das die Grundlage von OpenChatKit bildet. Es bietet eine solide Grundlage für eine breite Palette von Aufgaben in natürlicher Sprache und stellt sicher, dass die Daten der Anwender jederzeit sicher und geschützt sind.

10. Mehr Transparenz bei der Entwicklung von Open-Source-Code

Eine größere Transparenz bei der Entwicklung von Open-Source-Code kommt Together zugute, da sie auf den Fortschritten der großen Sprachmodelle (LLMs) von Unternehmen wie OpenAI und Microsoft aufbauen können. Durch die Nutzung von Open-Source-Modellen wie Alpaca, LLaMa und Dolly kann Together leistungsstarke Anwendungen mit kurzen Trainingszeiten erstellen und kleinere, effizientere Modelle entwickeln, die auf einer Vielzahl von Plattformen verwendet werden können, sogar auf einem Macbook Pro oder einem Smartphone. Darüber hinaus hat Together Zugang zu den leistungsstärkeren Modellen von Cerebras und dem kommenden GPT-5 und kann so in der Branche wettbewerbsfähig bleiben. Die Open-Source-Entwicklung gibt Together außerdem die Möglichkeit, seine Anwendungen und Modelle schnell und relativ kostengünstig für die kommerzielle Nutzung anzupassen.

FAQ

Was ist Together?

Together ist ein Unternehmen, das Open-Source-Grundmodelle für das Verstehen und Generieren natürlicher Sprache anbietet. Die erste verteilte Cloud von Together wurde speziell für den Umgang mit großen Basismodellen entwickelt und bietet eine intuitive Plattform, die Daten, Modelle und Datenverarbeitung kombiniert, um KI-Forschern, Entwicklern und Unternehmen zu helfen, KI besser zu nutzen und voranzubringen. Together hat OpenChatKit 0.15 entwickelt, eine Sammlung von 43 Millionen qualitativ hochwertigen Anweisungen für Konversationsinteraktionen, und den Moderationsdatensatz, eine Sammlung von unangemessenen Fragen für Chatbots, die beide unter der Apache-2.0-Lizenz veröffentlicht wurden. OpenChatKit enthält einen generischen Chatbot und die notwendigen Komponenten, um spezialisierte Bots zu erstellen. Dazu gehört ein Abfragesystem, das so erweitert werden kann, dass Informationen aus einem Dokumentenspeicher, einer API oder einer anderen aktuellen Informationsquelle zu den Antworten eines Bots hinzugefügt werden können. Außerdem ist ein von GPT-JT-6B abgeleitetes Moderationsmodell auf HuggingFace unter der Apache-2.0-Lizenz zugänglich; es wählt aus, welche Anfragen der Bot beantwortet.

Was ist ein OpenChatKit?

OpenChatKit ist ein Open-Source-Projekt, das leistungsstarke, anpassbare Chatbot-Funktionen für verschiedene Anwendungen bietet. Es besteht aus vier Komponenten: einem auf Anweisungen abgestimmten großen Sprachmodell, Anpassungsrezepten für die Feinabstimmung, einem erweiterbaren Abfragesystem, mit dem das Modell um aktuelle Informationen ergänzt werden kann, und einem Moderationsmodell zum Herausfiltern unangemessener oder domänenfremder Fragen. OpenChatKit ermöglicht es Entwicklern, sowohl spezialisierte als auch allgemeine Chatbots zu erstellen, und seine Werkzeuge und Prozesse können durch Beiträge der Community ständig verbessert werden.

Welche Funktionen bietet Together?

Together bietet eine verteilte Cloud, die speziell für den Umgang mit großen Basismodellen entwickelt wurde, eine intuitive Plattform, die Daten, Modelle und Berechnungen kombiniert, um KI voranzutreiben, das OpenChatKit 0.15 unter der Apache-2. 0-Lizenz, den OIG-43M-Datensatz (Sammlung von 43 Millionen qualitativ hochwertigen Anweisungen für Konversationsinteraktionen), den Moderations-Datensatz (Sammlung von unangemessenen Fragen für Chatbots), eine Open-Source-Grundlage für die Entwicklung von domänenspezifischen und allgemeinen Chatbots, das Einreichen von Feedback, das Hinzufügen eines gemeinschaftsbasierten Datensatzes, das Reasoning, die Diskussion über mehrere Runden, das Wissen und das Generieren von Antworten, einen generischen Chatbot, Anpassungsrezepte für die Feinabstimmung des Modells, um eine hohe Genauigkeit zu erreichen, ein Retrievalsystem, ein von GPT-JT-6B abgeleitetes Moderationsmodell und Tools zum Lernen.

Wie unterscheidet sich Together von anderen Chat-Anwendungen?

Together unterscheidet sich von anderen Chat-Anwendungen dadurch, dass es ein Open-Source-Grundlagenmodell für das Verstehen und Erzeugen natürlicher Sprache ist. Es bietet Anwendern eine Plattform, die Daten, Modelle und Berechnungen kombiniert, um KI besser nutzen und weiterentwickeln zu können. OpenChatKit 0.15 wird unter einer Apache-2.0-Lizenz veröffentlicht und bietet vollen Zugriff auf den Quellcode, die Modellgewichte und die Trainingsdatensätze, damit Anwender sowohl spezialisierte als auch allgemeine Chatbots erstellen können. Außerdem verfügt es über ein Moderationsmodell, das auf der Grundlage von GPT-JT-6B entwickelt wurde, um zu filtern, auf welche Fragen der Bot antwortet. Außerdem enthält OpenChatKit Tools, die es ermöglichen, Beiträge aus der Community zu erstellen und so einen wachsenden Korpus an offenen Trainingsdaten zu erzeugen.

Welche Datensätze verwendet Together für sein Chatbot-Modell?

Together nutzt die Datensätze LAION und Ontocord für das Training seines Chatbot-Modells. Darüber hinaus wurden 43 Millionen Anweisungen auf 100% kohlenstoffnegativen Rechnungen aus EleutherAIs GPT-NeoX-20B, einem großen Sprachmodell, das für einen Chat abgestimmt ist, einbezogen. Die OpenChatKit-Tools ermöglichen es den Anwendern, Feedback einzureichen und neue Datensätze hinzuzufügen, um den Korpus der offenen Trainingsdaten zu erweitern und letztendlich bessere Sprachmodelle zu entwickeln. Das OpenChatKit-Framework umfasst außerdem einen generischen Chatbot, eine Reihe von Anpassungsrezepten zur Feinabstimmung des Modells, ein Abfragesystem zum Hinzufügen von Informationen aus einem Dokumentenspeicher oder einer API und ein von GPT-JT-6B abgeleitetes Moderationsmodell zur Auswahl der Anfragen, die der Bot beantwortet.

Mit welchen Open-Source-Projekten hat Together zusammengearbeitet?

ogether hat mit LAION und Ontocord zusammengearbeitet, um ein Open-Source-Chatbot-Projekt für verschiedene Anwendungen zu entwickeln. Sie haben den OIG-43M-Datensatz, eine Sammlung von 43 Millionen qualitativ hochwertigen Anweisungen für Konversationsinteraktionen, und den Moderationsdatensatz, eine Sammlung von unangemessenen Fragen für Chatbots, veröffentlicht. Dieses Gemeinschaftsprojekt soll eine leistungsstarke Open-Source-Basis bieten, um sowohl spezialisierte als auch allgemeine Chatbots für verschiedene Anwendungen zu erstellen, in der Hoffnung, dass sie durch die Beiträge der Gemeinschaft ständig verbessert werden.

Welche Vorteile bietet die Nutzung von Together?

u den Vorteilen der Nutzung von Together gehören der Zugang zu hochwertigen Datenannotations- und -kuratierungsdiensten durch LAION, Lösungen für Data Engineering und maschinelles Lernen durch Ontocord sowie eine intuitive Plattform, die Daten, Modelle und Berechnungen kombiniert, damit Forscher, Entwickler und Unternehmen die neuesten Fortschritte in der künstlichen Intelligenz nutzen und verbessern können. Together bietet auch eine grüne Zone ihrer dezentralen Cloud, die zu 100 % kohlenstoffnegativ ist, und ihre aggressive Kommunikationskompression für die Feinabstimmung reduziert den Kommunikationsaufwand für den gesamten Prozess. OpenChatKit, ihre Open-Source-Plattform, ermöglicht die Entwicklung von domänenspezifischen und allgemeinen Chatbots und unterstützt Argumentation, Diskussionen mit mehreren Runden, Wissen und das Generieren von Antworten. Es enthält auch einen generischen Chatbot und die Komponenten, die für die Erstellung spezialisierter Bots notwendig sind. So kann ein nützlicher Chatbot Antworten regulieren, Anweisungen in normaler Sprache befolgen und die Unterhaltung im Kontext halten.

Welche Moderationssysteme verwendet Together?

Together verwendet ein Moderationsmodell mit 6 Milliarden Parametern, das auf der Grundlage von GPT-JT und der few-shot-Klassifizierung entwickelt wurde, um die Fragen der Anwender in fünf Kategorien einzuteilen. Diese Kategorien lauten: lässig, möglicherweise mit Vorsicht zu behandeln, wahrscheinlich mit Vorsicht zu behandeln, mit Vorsicht zu behandeln und zu behandeln. Der Chatbot antwortet nur, wenn die Frage in eine der zulässigen Kategorien fällt, wobei die Antwort vom Kontext der Frage abhängt. Together hat mit LAION und Ontocord zusammengearbeitet, um den Trainingsdatensatz für das Moderationsmodell zu erstellen und GPT-JT anhand einer Sammlung von unangemessenen Fragen zu optimieren. Um das Modell zu verbessern und es für verschiedene Kontexte geeignet zu machen, legt Together Wert auf Nachhaltigkeit und hat eine grüne Zone der Together Decentralized Cloud entwickelt, die Rechenressourcen umfasst, die zu 100 % kohlenstoffnegativ sind. Es besteht auch die Möglichkeit, die Together-Plattform für interessierte Organisationen zu nutzen.

Welche Hardware und Software benötigt Together?

Together benötigt die Together Decentralized Cloud - eine Sammlung von Rechenknoten im gesamten Internet - und eine aggressive Kommunikationskomprimierung, um den Kommunikationsaufwand für das Paralleltraining von Daten zu reduzieren. Außerdem benötigt die Together-Plattform Lösungen für Data Engineering und maschinelles Lernen von Ontocord, hochwertige Datenannotations- und -kuratierungsdienste von LAION und Open-Source-Grundmodelle für das Verstehen und Generieren natürlicher Sprache von Together. Zu den Hardware-Anforderungen gehören ein oder mehrere Computerknoten, die an ein Netzwerk mit einer Bandbreite von mindestens 1 Gbit/s angeschlossen sind. Die Software-Anforderungen umfassen die Together-Plattform, den OIG-43M-Datensatz, den Moderationsdatensatz und das GPT-NeoXT-Chat-Base-20B-Modell.

Quellen: - https://openchatkit.net/ - https://www.together.xyz/blog/openchatkit - https://www.etcentric.org/researchers-developing-open-source-challenger-to-chatgpt/

Welche Maßnahmen zum Datenschutz gibt es bei Together?

Together verpflichtet sich zum Datenschutz und hat verschiedene Maßnahmen ergriffen, um die Sicherheit der Daten seiner Anwender zu gewährleisten. Dazu gehören die Verschlüsselung von Daten bei der Übertragung und im Speicher, strenge Zugangskontrollen, regelmäßige Sicherheitsüberprüfungen und Audits sowie die strikte Einhaltung der Datenschutzbestimmungen. Darüber hinaus hat Together eine grüne Zone der Together Decentralized Cloud entwickelt, die Rechenressourcen umfasst, die zu 100 % kohlenstoffnegativ sind, und so die Umweltauswirkungen des Betriebs reduziert. Für Organisationen, die die Together-Plattform nutzen möchten, bietet das Unternehmen detaillierte Anleitungen zum Datenschutz und zur Datensicherheit. Die Anleitungen behandeln Themen wie die Einrichtung sicherer Zugangskontrollen, die Durchführung regelmäßiger Sicherheitsüberprüfungen und Audits sowie die Einhaltung von Datenschutzbestimmungen. Together gibt auch Hinweise zur Verschlüsselung von Daten während der Übertragung und im Ruhezustand, um sie vor unbefugtem Zugriff zu schützen. Schließlich können Unternehmen die CO2-negativen Rechenressourcen in der grünen Zone der dezentralen Cloud von Together nutzen, um ihre Umweltbelastung zu reduzieren.

Quellen: - https://openchatkit.net/ - https://www.together.xyz/blog/openchatkit - https://switchedtolinux.com/news/is-your-childs-data-stolen

Matthias Mut

Spielmacher, Teamsportler, KI-Enthusiast - Technik ist mein Ding. Spaß an Entwicklung, Fortschritt & Automatisierung.

srm@falktron.gmbh