Neue KI aus Österreich läuft ohne Rechenzentrum

Für Nutzer heißt das: Fragen stellen wie bei ChatGPT, kostenlos und ohne Werbung, und die eigenen Gespräche bleiben auf dem eigenen PC oder Handy.

„Ich wollte zeigen, dass man keine Milliarden für Rechenzentren wie das in Kronstorf braucht, um eine ordentliche KI zu betreiben.“

Mit diesem Satz hat Rainer den Start im Forum der Community angekündigt.

In Kronstorf im Bezirk Linz-Land baut Google seit April sein erstes Rechenzentrum in Österreich, laut Wirtschaftslandesrat Markus Achleitner eine Investition in Milliardenhöhe.

Ein Chatbot, der auf den PCs der Community rechnet

Stellt jemand eine Frage, beantwortet sie der PC eines Mitglieds, der gerade frei ist. Ein Server in Wien bringt Frage und Gerät zusammen, gerechnet wird bei den Mitgliedern.

Mit einer Grafikkarte ab 6 GB Grafikspeicher und 16 GB Arbeitsspeicher antwortet der eigene PC selbst, danach auch ohne Internet. Schwächere Rechner bekommen die Antwort von einem freien PC der Community.

Geschrieben wird mit offenen Modellen unter freier Lizenz. Grundlage ist Ministral 3 des französischen Anbieters Mistral AI.

Künstliche Intelligenz, die Gespräche am Gerät lässt

Beim Datenschutz setzt KIplatz.at neue Maßstäbe:

• Gespräche liegen am PC oder Handy der Nutzer, am Server nicht.
• Beantwortet ein anderes Gerät eine Frage, liegt sie am Server, bis die Antwort da ist, höchstens 24 Stunden.
• Der antwortende PC sieht die Frage, aber keinen Namen und keine Adresse.
• Allgemeine Wissensfragen werden verschlüsselt und ohne Namen aufbewahrt, Fragen über die eigene Person nie.
• Es gibt keine Werbung und keine Tracker, Server und Mails liegen bei der IPAX GmbH in Wien.

Aus den allgemeinen Wissensfragen lernt die KI dazu. Was sie lernt, steht vorher in einer öffentlichen Lernliste, beschrieben unter So lernt KIplatz dazu. Wer nicht beitragen will, schaltet in den Einstellungen „Meine Fragen helfen beim Lernen“ aus.

KI mit Quellenangabe unter jeder Antwort

Die Quellen stehen direkt unter dem Text, etwa ein Wikipedia-Artikel oder eine Nachrichtenseite. In den Details zeigt das Programm, wie viele Sätze aus den Quellen stammen und welches Gerät geantwortet hat.

Was in keiner Quelle steht, sagt die KI dazu, statt etwas zu erfinden. Falsche Antworten berichtigen die Nutzer selbst mit dem Daumen nach unten und der richtigen Fassung. Hat ein zweites Gerät der Community die Berichtigung geprüft, gilt sie für alle.

Die KI am PC daheim schickt Dateien aufs Handy

Mit der Funktion „Frag dein Zuhause“ wird das Handy einmal per QR-Code mit dem PC daheim verbunden. Danach reicht unterwegs eine Frage wie „Wo ist meine Bewerbung?“.

Der PC sucht in den gewohnten Ordnern, auch in OneDrive, nach Name, Ordner und Datum. Die Datei kommt verschlüsselt über den Server in Wien, ohne Cloud-Speicher, bis 60 MB je Datei. Der PC daheim muss dafür eingeschaltet sein. Mehr unter Dateien von überall holen.

KI kostenlos als Programm und App nutzen

Eine Bezahlstufe gibt es nicht, Credits lassen sich weder kaufen noch auszahlen.

1. Am Windows-11-PC das Programm auf kiplatz.at als ZIP holen, rund 28 MB, entpacken und starten, ohne Administratorrechte.
2. Am Handy kiplatz.at/app im Browser öffnen und mit dem KIplatz-Konto anmelden. Eigene Apps für Android und iPhone sind im Bau.
3. Ohne Konto beantwortet die Community 5 Fragen am Tag, mit einem kostenlosen Konto gibt es keine Grenze.

Mit „Rechenkraft teilen“ wächst die eigene KI der Community

Je mehr Mitglieder ihren Rechner mithelfen lassen, desto mehr Fragen beantwortet das Netz und desto mehr Wissen bereitet es auf. Eingeschaltet wird das im Programm unter „Rechenkraft teilen“.

• Wie viel der PC beiträgt, stellt jeder mit Schiebereglern selbst ein, zum Beispiel 10 Prozent Rechenkraft, 1,5 GB Arbeitsspeicher und 50 MB Festplatte.
• Der PC arbeitet nur, wenn er gerade nichts anderes tut. Am Akku pausiert er von selbst, Pause und Stopp wirken sofort.
• Mit einer starken Grafikkarte beantwortet er Fragen anderer Mitglieder. Texte für das gemeinsame Wissen zusammenfassen kann jeder PC, auch ein älteres Notebook.
• Ein Teil jeder Arbeit geht zur Kontrolle an ein zweites Gerät, weichen die Ergebnisse ab, werden beide verworfen.
• Auf den eigenen PC kommt nie ein Programm eines anderen Mitglieds, nur Texte und Zahlen. Jede Verbindung steht im Programm unter „Was verlässt meinen Rechner“.

Für jede erledigte Arbeit gibt es Credits. Sie bringen Vorrang bei eigenen Fragen und einen Platz in der Bestenliste, aber kein Geld und keine Kryptowährung.

„Wir wünschen uns, dass viele mitmachen und ihre Rechenkraft teilen. Nur so wachsen wir zu einem großen eigenen Netzwerk. Wenn wir immer weiter wachsen und uns verbinden, können wir genauso stark werden wie die Rechenzentren der großen KI-Anbieter.“

So beschreibt Gründer Philipp Rainer das Ziel des Projekts.

Eine KI-Community zum Mitreden und Mitbauen

Die Mitglieder treffen sich im Platzl unter forum.kiplatz.at, Fragen dort bekommen binnen 48 Stunden eine Antwort. Fehler und Ideen kommen in die Werkstatt unter werkstatt.kiplatz.at, die ähnlich wie GitHub funktioniert.

Dort stehen Fehlermeldungen, Ideen und offene Aufgaben, dazu Anleitungen, die der KI neue Aufgaben beibringen, etwa ein Vereinsprotokoll. Zum Mitarbeiten reicht ein kostenloses Konto. Was umgesetzt wird, steht unter „Neu im Programm“, auf Wunsch mit dem Namen dessen, der es gemeldet hat.

KIplatz.at gibt es auf Deutsch und Englisch.

Wer die KI ausprobieren will, stellt auf der Startseite eine Probefrage, ohne Konto und ohne Anmeldung.