Local Voice Assistant gesucht

Allgemein
1

Local Voice Assistant. Lange hab ich es nur für eine Spielerei gehalten, aber einmal ausprobiert ist es doch praktischer als der Gang zum Tablet oder jedes mal das Handy raus zu holen.

Was ich bereits probiert habe:
Ollama, OpenAI, Addons, Custom Repositories, usw…

Leider lokal auf der eigenen Hardware ( ThinkCentre mit 8GB Ram und keiner dedizierten GPU ) viel zu langsam. Wer noch nie davon gehört hat: HOMEWAY!! Wahnsinn Addon das Fernzugriff, Voice Assist über OpenAi usw zur verfügen stellt und mehr. Auch komplexe Aufgaben wie: Licht Flur OG 20%, Aktiviere Szene xy, benötigen von STT bis Ausführung vllt 2 Sek.

Jetzt kommt das ABER: ich hätte das gerne lokal, ohne Cloud.
Gibt es Möglichkeiten / Hardware die dass umsetzen kann ohne gleich 150Watt im Idle zu verbraten?

2

Mac mini ab M3 aufwärts. Was sparsameres mit entsprechender Leistung, wird Du kaum finden.
Mindest 16 GB oder mehr, je nach Modell Größe.

Gruß Osorkon

3

Von den technischen Specs gut aber darauf wird es sehr schwierig Proxmox und generell Linux zu installieren. Trotzdem besten Dank

4

Warum Proxmox oder Linux?!

Du kannst das volle Potenzial vom Mini nur mit MacOS erzielen!!

Gruß Osorkon

5

Proxmox deswegen, da dort Home Assistant, PiHole und andere Sachen laufen.

Ja Home Assistant könnte man auf Mac auch Installieren aber für den Rest wird es aufwändiger.

Ich behalte das trotzdem mal im Hinterkopf, wenn es so sein sollte, müssen eben zwei Geräte parallel laufen.

LG Pascal

6

Dann vielleicht ein MINISFORUM AtomMan G1 PRO. Dann darfst Du aber nicht so auf die Watt Zahl achten. :wink:

Gruß Osorkon