Local AI για ελληνικά κείμενα με Ollama, στήσιμο, ρυθμίσεις και prompts που βγάζουν νόημα

Θες να γράφεις κείμενα στα ελληνικά με AI, χωρίς να στέλνεις τίποτα σε cloud; Αυτό γίνεται, αρκεί να στήσεις σωστά Ollama ελληνικά και να διαλέξεις μοντέλο που “νιώθει” τη γλώσσα.

Το πιο συχνό πρόβλημα δεν είναι η εγκατάσταση. Είναι ότι το μοντέλο απαντάει με μισά ελληνικά, μισά αγγλικά, ή γράφει «σαν μετάφραση». Με λίγες ρυθμίσεις και μερικά μικρά prompts, το αποτέλεσμα αλλάζει πολύ.

Τι σημαίνει “Local AI” και τι σου δίνει το Ollama

Local AI σημαίνει ότι το μοντέλο τρέχει στον υπολογιστή σου. Τα κείμενα, τα prompts και οι απαντήσεις μένουν τοπικά. Αυτό σε βοηθά όταν γράφεις ευαίσθητα πράγματα, όπως email, αιτήματα σε υποστήριξη, κείμενα για πελάτες, ή σημειώσεις με προσωπικά δεδομένα.

Το Ollama είναι η “μηχανή” που κατεβάζει και τρέχει μοντέλα, και σου δίνει και API για να το συνδέσεις με apps. Αν θες να το δεις σε πραγματικό workflow γραφείου, υπάρχει παράδειγμα ενσωμάτωσης με επεξεργαστή εγγράφων στο άρθρο του ONLYOFFICE για offline χρήση μοντέλων με Ollama.

Τι δεν κάνει το Ollama από μόνο του: δεν “βελτιώνει” τα ελληνικά μαγικά. Αυτό το κάνει το σωστό μοντέλο και οι σωστές ρυθμίσεις.

Πριν ξεκινήσεις: απαιτήσεις και ένα σοβαρό θέμα ασφάλειας

Το πρόβλημα (σε 1 πρόταση): αν αφήσεις το Ollama εκτεθειμένο στο internet, μπορεί να δώσεις πρόσβαση σε τρίτους.

Πιθανές αιτίες:

• Άνοιξες port στο router ή έκανες port forwarding.
• Έτρεξες service που ακούει σε public IP.
• Έβαλες το Ollama πίσω από “πρόχειρο” reverse proxy χωρίς auth.

Κράτα το απλό: για χρήση στο σπίτι, στόχευσε σε μόνο τοπική πρόσβαση (στον ίδιο υπολογιστή). Αν το χρειάζεσαι για ομάδα, βάλε αυθεντικοποίηση και περιορισμούς δικτύου. Μην το αφήσεις “χυμένο” έξω, ειδικά αν το χρησιμοποιείς για κείμενα με δεδομένα λογαριασμών ή συνομιλίες.

Στήσιμο Ollama σε Windows, macOS, Linux, βήμα-βήμα

Ακολούθησε αυτά τα βήματα με τη σειρά. Είναι τα πιο “καθαρά” για να μη μπερδευτείς.

1. Εγκατέστησε το Ollama από την επίσημη σελίδα του (installer για Windows/macOS ή πακέτα για Linux).
2. Άνοιξε Terminal (macOS/Linux) ή PowerShell (Windows).
3. Ξεκίνα τον server: ollama serve (σε αρκετά συστήματα ξεκινά και μόνο του, αλλά αυτό σε ξεμπλοκάρει όταν κάτι δεν ανταποκρίνεται).
4. Κατέβασε ένα μοντέλο: ollama pull <model> και μετά τρέξ’ το: ollama run <model>.
5. Κάνε ένα τεστ με καθαρό prompt: “Γράψε 5 προτάσεις στα ελληνικά, χωρίς αγγλικές λέξεις.”

Αν θες να το χρησιμοποιήσεις από εφαρμογές, το API στο localhost είναι το κλειδί. Για Python υπάρχει και επίσημος client, δες τη σελίδα ollama στο PyPI.

Μοντέλα που αξίζουν για ελληνικά (και τι να περιμένεις)

Για Ollama ελληνικά, το μοντέλο είναι η μισή δουλειά. Σήμερα ξεχωρίζουν δύο πρακτικές επιλογές:

• Για πιο “φυσικά” ελληνικά σε γενική χρήση: OpenEuroLLM-Greek. Είναι φτιαγμένο με στόχο τον ελληνόφωνο χρήστη και συνήθως κρατά καλύτερα τον τόνο.
• Για οδηγίες, απαντήσεις τύπου help desk και πιο σταθερή συμπεριφορά σε “κάνε αυτό”: Llama-Krikri-8B-Instruct, από το ILSP, σχεδιασμένο με ενίσχυση ελληνικών δεδομένων.

Αν θες πλαίσιο για την ελληνική έρευνα σε LLM, έχει ενδιαφέρον η παρουσίαση του ΙΕΛ για το Meltemi, ανοιχτό μοντέλο για Ελληνικά. Δεν σημαίνει ότι είναι πάντα το πιο πρακτικό για κάθε PC, αλλά σου δίνει εικόνα για το πού πάει η γλώσσα.

Ρυθμίσεις που αλλάζουν άμεσα την ποιότητα (χωρίς να “πειράξεις” πολλά)

Αν το μοντέλο γράφει σαν να κάνει μετάφραση ή πετάει αγγλικά, μην αρχίσεις να αλλάζεις 20 πράγματα. Ξεκίνα από τα βασικά: system prompt, temperature και context.

Ρύθμιση	Τι επηρεάζει	Πρακτική τιμή εκκίνησης
temperature	Δημιουργικότητα vs σταθερότητα	0.5 έως 0.7 για ελληνικά κείμενα
num_ctx	Πόσο “θυμάται” μέσα στο ίδιο chat	2048 αν σέρνεται, 4096 αν αντέχει
System prompt	Τόνος, γλώσσα, κανόνες	“Απάντα μόνο στα ελληνικά, με απλές προτάσεις”

Ένα πολύ χρήσιμο κόλπο είναι το δικό σου “προφίλ” μοντέλου μέσω Modelfile. Εκεί ορίζεις κανόνες όπως “μην χρησιμοποιείς αγγλικά” ή “γράφε σαν τεχνική υποστήριξη”. Αν το κάνεις, κράτα το system prompt σύντομο και απόλυτο. Τα μεγάλα κατεβατά συχνά κάνουν το αντίθετο.

Μικρά prompts που δουλεύουν στα ελληνικά, έτοιμα για χρήση

Εδώ είναι το σημείο που συνήθως κερδίζεις χρόνο. Τα prompts που “δουλεύουν” έχουν δύο στοιχεία: ρόλο και περιορισμούς. Όχι φλυαρία.

Prompt για email σε υποστήριξη (λογαριασμοί, apps, συνδρομές)

“Γράψε email στα ελληνικά προς υποστήριξη. Θέμα: αποτυχία σύνδεσης. Περιέλαβε: μοντέλο κινητού, έκδοση iOS/Android, τι δοκίμασα ήδη, και ερώτημα για επόμενο βήμα. Ύφος ευγενικό, 120 έως 160 λέξεις.”

Prompt για σύνοψη συνομιλίας (Viber/WhatsApp/Instagram DM)

“Σύνοψε σε 6 κουκκίδες αυτά που συμφωνήθηκαν. Βάλε ημερομηνίες και ποσά αν υπάρχουν. Μην προσθέσεις τίποτα που δεν αναφέρεται.”

Prompt για καθαρό ελληνικό ύφος (κόβει αγγλισμούς)

“Ξαναγράψε το κείμενο σε φυσικά ελληνικά. Κράτα το νόημα, κόψε αγγλικές λέξεις, κράτα προτάσεις 10 έως 16 λέξεις. Μην αλλάξεις ονόματα εφαρμογών.”

Prompt για άρθρο ή οδηγό που θα δημοσιεύσεις

“Φτιάξε οδηγό με H2 και H3, μικρές παραγράφους, και 5 συχνές ερωτήσεις στο τέλος. Βάλε την κύρια φράση στην πρώτη παράγραφο, χωρίς επανάληψη. Μην κάνεις υπερβολές στις λέξεις-κλειδιά.”

Αν το κείμενο πάει για site, κράτα μερικές βασικές αρχές: μοναδικός τίτλος ανά σελίδα, λογικό μήκος τίτλου, σωστή δομή H1-H2-H3, και καθαρή meta περιγραφή που περιγράφει αυτό που όντως υπάρχει στη σελίδα. Μην κάνεις keyword stuffing, φαίνεται και κουράζει.

Αν δεν σου βγάζει καλά ελληνικά: τι να ελέγξεις σε 2 λεπτά

Το πρόβλημα (σε 1 πρόταση): το μοντέλο τρέχει, αλλά η γλώσσα και η ποιότητα είναι λάθος.

Έλεγξε με αυτή τη σειρά:

1. Μοντέλο: δοκίμασε άλλο, ειδικά ελληνικό, πριν πειράξεις ρυθμίσεις.
2. System prompt: βάλε 1 γραμμή, “Απάντα μόνο στα ελληνικά”.
3. Temperature: κατέβασέ το λίγο, αν κάνει “ανοησίες”.
4. Context: αν ξεχνάει οδηγίες, ανέβασε num_ctx.
5. Input: αν του δίνεις κείμενο με αγγλικά, θα τα μιμηθεί.

Αν πάλι κολλάει ή δεν απαντά, ξανατρέξε ollama serve και δοκίμασε νέο session. Μερικές φορές το πρόβλημα είναι απλά “κολλημένο” process.

Μικρό FAQ για Ollama ελληνικά

Μπορείς να το τρέξεις χωρίς internet;

Ναι, αφού κατεβάσεις το μοντέλο. Η χρήση μετά είναι offline.

Χρειάζεσαι GPU;

Όχι υποχρεωτικά. Με GPU θα είναι πιο γρήγορο. Σε CPU απλά θα περιμένεις περισσότερο.

Γιατί πετάει αγγλικά μέσα στο κείμενο;

Συνήθως φταίει το μοντέλο ή το prompt. Βάλε αυστηρό system prompt και διάλεξε μοντέλο με καλύτερη ελληνική συμπεριφορά.

Είναι ασφαλές για προσωπικά δεδομένα;

Είναι πιο ασφαλές από cloud, επειδή μένουν τοπικά. Δεν είναι “αυτόματα ασφαλές” αν το εκθέσεις στο internet ή αν το PC έχει malware.

Συμπέρασμα

Με σωστό μοντέλο και 2 έως 3 ρυθμίσεις, το Ollama ελληνικά γίνεται εργαλείο που γράφει καθαρά, όχι κάτι που σε εκνευρίζει. Κράτα το system prompt σύντομο, διάλεξε μοντέλο φτιαγμένο για ελληνικά και δούλεψε με μικρά prompts με σαφείς περιορισμούς. Αν το αποτέλεσμα είναι ακόμα “ξύλινο”, μην πιεστείς, άλλαξε πρώτα μοντέλο και μετά τα υπόλοιπα.