🤖 Uncensored Local AI 🤖

[Kleinstein]

UNCENSORED LOCAL AI - KURZANLEITUNG

Was ist das?

Eine App, die KI-Modelle (GGUF) komplett offline auf dem Handy ausführt. Kein Cloud-Zwang, keine Filter.

ANDROID

1. APK laden: app-arm64-v8a-release.apk (passt für fast alle Handys ab 2018)

2. Einstellungen > Unbekannte Apps installieren > Browser erlauben

3. APK antippen und installieren

iOS (Pre-Release)

1. ios_pre_release.zip aufs iPhone laden

2. In der Dateien-App entpacken, um die .ipa zu erhalten

3. Per Sideloading installieren:

- TrollStore: nur auf älteren iOS-Versionen, auf neuem iOS vermutlich nicht nutzbar

- AltStore/AltServer: braucht PC oder Mac

- SideStore: ohne PC möglich (steht nicht im Repo)

4. Selbst bauen geht nur mit Mac und Xcode

NUTZUNG

1. App öffnen > Tab Models

2. Modell herunterladen:

- Gemma 2 2B (ca. 1,6 GB): schnell, für wenig RAM

- Gemma 4 E4B Heretic (ca. 5,3 GB): bessere Qualität, unzensiert

3. Modell laden und chatten

OPTIONAL: LOKALE API

Settings > Local API Server einschalten

Basis-URL: http://127.0.0.1:4891/v1

API-Key: local

HINWEISE

- Der Modell-Download braucht Internet, danach läuft alles offline

- Das größere Modell braucht viel RAM

- Die iOS-Version ist nur eine Pre-Release, Fehler möglich
 

Aktuell nur Text2Text! wird sich aber vielleicht bald ändern 
 

Vielleicht ist das für den ein oder anderen interessant  

 

Liebe Grüße 

Kleinstein