THEDARKMONSTER BLACKBOX

Τι είναι το PS5LM — και γιατί είναι «unhinged»

Το PS5LM φορτώνει ένα GGUF μοντέλο στη GPU της κονσόλας και το σερβίρει σε κάθε συσκευή του δικτύου σου: laptop, κινητό, coding tools. Δεν χρειάζεται PC όσο τρέχει, δεν χρειάζεται cloud, δεν χρειάζεται account. Η κονσόλα είναι ο server — και το ξέρει: στην TV δείχνει live κάθε request που κάνει κάποια άλλη συσκευή, σαν chat.

Κάτω από το καπό: ο Vulkan backend του llama.cpp πάνω στην RDNA2 GPU του PS5, με 11,4GB από τη shared μνήμη (16GB GDDR6 συνολικά) αφιερωμένα στο μοντέλο και το context του. Πρακτικά αυτό σημαίνει: ό,τι αρχιτεκτονική και quantization ξέρει το llama.cpp, το τρέχει και η κονσόλα — από μοντέλα μισού gigabyte μέχρι 27B παραμέτρων.

Το project υπογράφει ο cobanov και κτίστηκε πάνω σε ένα native GPU app του abhi245y (PS5LM Plus). Από κάτω: ps5-homebrew-ui (C++), ggml-vulkan, το PS5_Vulkan/RADV του mihawk-99 και το homebrew SDK του John Törnblom. RDNA2, Vulkan, homebrew — η «unhinged» γωνιά της τεχνολογίας, σε production ποιότητα.

Τα νούμερα: πόσο γρήγορα τρέχει στην κονσόλα

Όλα τα νούμερα είναι μετρημένα στην κονσόλα (PS5 Slim), με τον Vulkan backend. Σημείωση: το 27B χρειάζεται πιο επιθετικό quantization (UD-Q2_K_XL) για να χωρέσει στα 11,4GB.

• Το 9B είναι το πραγματικό story: 55 tokens/s με 64k context σημαίνει chat, summarization και coding assistance πάνω από την ταχύτητα ανάγνωσης — με μοντέλο που χωράει άνετα στη μνήμη.
• Το 27B είναι «ό,τι πιο μεγάλο χωράει»: μόνο με UD-Q2_K_XL, δηλαδή με απώλεια ποιότητας. Εντυπωσιακό για την κατηγορία, όχι για σοβαρό workload.
• Τα decision models δεν «γράφουν»: απαντούν σε ένα forward pass — γι' αυτό χωράνε στο 1,1GB και απαντούν σε εκατοστά του δευτερολέπτου.

Δύο APIs, ένα TV UI — και τα decision models (d1, Clef, OpenJev)

Η κονσόλα σερβίρει στο http://<console>:8081. Τρία πράγματα αξίζει να θυμάσαι:

Το τελευταίο είναι το πιο ενδιαφέρον κομμάτι. Αν διάβασες το άρθρο μας για την οικονομία των open-weight, ξέρεις το φαινόμενο Jev: τα «μοντέλα που δεν γράφουν τίποτα» πήραν το 35% των paid teams με 0,15% του spend. Το PS5LM φέρνει αυτήν ακριβώς την κατηγορία στην κονσόλα: τα Jev-like d1 Omni 600M, d1 3B και Clef Flash τρέχουν μέσω του ollaya-style API — του «Ollama των decision models» — και κάθε GGUF με decision metadata φορτώνει το ίδιο.

curl http://<console>:8081/v1/systemone -H 'Content-Type: application/json' -d '{
  "state": "I was charged twice this month. Refund me or I cancel.",
  "questions": {
    "intent": {
      "type": "choice",
      "instructions": "What does the customer want?",
      "criteria": {"refund": null, "information": null, "cancel": null}
    }
  }
}'

Στην TV, το UI είναι φτιαγμένο για καναπέ: πέντε-έξι σελίδες που εναλλάσσεις με L1/R1 (Home, Models, Decisions, Console, API, Settings) και χειρισμός από το DualSense.

Πώς στήνεται: payloads, FTP και δύο λεπτά υπομονή

1. Κατέβασε το τελευταίο release (ps5lm-app-vX.Y.Z.zip) από το GitHub και κάνε unzip.
2. Στείλε τον φάκελο PPSA99575 στο /data/homebrew μέσω FTP — το ShadowMountPlus βάζει το PS5LM στην αρχική οθόνη.
3. Άνοιξε την εφαρμογή → Models > Suggested: κατέβασε μοντέλο απευθείας από το Hugging Face — ή αντίγραψε ένα .gguf στο /data/PS5LM/models (ή σε USB stick στο PS5LM/models).
4. Φόρτωσέ το. Μόλις το Home δείξει Ready, άνοιξε http://<console>:8081 από browser — ή ρίξε τον OpenAI/Anthropic client σου στο ίδιο address.

📎 Τα updates είναι απλά: αντιγραφή του νέου φακέλου πάνω στον παλιό. Settings, μοντέλα και downloads μένουν στο /data/PS5LM.

Πηγές

• github.com — cobanov/PS5LM (README, releases, docs)
• ps5lm.cobanov.dev — επίσημη σελίδα του project
• github.com — llama.cpp / ggml (ο Vulkan backend)
• github.com — Ollaya (decision models για PC — η βάση του /v1/systemone)

FAQ

Σχετικά Άρθρα & Εργαλεία