UNCENSORED LOCAL AI - KURZANLEITUNG
Was ist das?
Eine App, die KI-Modelle (GGUF) komplett offline auf dem Handy ausführt. Kein Cloud-Zwang, keine Filter.
ANDROID
1. APK laden: app-arm64-v8a-release.apk (passt für fast alle Handys ab 2018)
2. Einstellungen > Unbekannte Apps installieren > Browser erlauben
3. APK antippen und installieren
iOS (Pre-Release)
1. ios_pre_release.zip aufs iPhone laden
2. In der Dateien-App entpacken, um die .ipa zu erhalten
3. Per Sideloading installieren:
- TrollStore: nur auf älteren iOS-Versionen, auf neuem iOS vermutlich nicht nutzbar
- AltStore/AltServer: braucht PC oder Mac
- SideStore: ohne PC möglich (steht nicht im Repo)
4. Selbst bauen geht nur mit Mac und Xcode
NUTZUNG
1. App öffnen > Tab Models
2. Modell herunterladen:
- Gemma 2 2B (ca. 1,6 GB): schnell, für wenig RAM
- Gemma 4 E4B Heretic (ca. 5,3 GB): bessere Qualität, unzensiert
3. Modell laden und chatten
OPTIONAL: LOKALE API
Settings > Local API Server einschalten
Basis-URL: http://127.0.0.1:4891/v1
API-Key: local
HINWEISE
- Der Modell-Download braucht Internet, danach läuft alles offline
- Das größere Modell braucht viel RAM
- Die iOS-Version ist nur eine Pre-Release, Fehler möglich
Aktuell nur Text2Text! wird sich aber vielleicht bald ändern
Vielleicht ist das für den ein oder anderen interessant
Liebe Grüße
Kleinstein