Show HN: Bash4LLM+ – A lightweight, dependency-free Bash wrapper for LLM APIs

Bash4LLM⁺ — wrapper CLI sicuro, Bash‑first e completamente auditabile per l’API Chat Completions compatibile OpenAI di Groq (ed estendibile ad altri provider). Bash4LLM⁺ è un singolo script Bash, auto‑contenuto, leggibile e verificabile. Scaricalo, rendilo eseguibile, esporta la tua API key e inizia subito a usarlo. Compatibile con ambienti Unix‑like: Linux, macOS, WSL, Cygwin, Termux (Android), BSD. Lista modelli dinamica tramite GET https://api.groq.com/openai/v1/models → nessun modello hardcoded. Sicurezza by design → nessun uso di /tmp, nessun eval, permessi restrittivi, validazione provider avanzata. Struttura modulare a sezioni → PRECORE_BOOT, PRECORE_RUN, PROVIDER, CORE_SETUP, CORE_PROVIDER. Sistema di Stato UI (ui_state) → il CORE espone costantemente metadati in formato JSON atomico per l'integrazione con GUI o strumenti esterni (es. Home Assistant). Streaming e non‑streaming → output in tempo reale o completo a fine risposta. Salvataggio automatico → per output lunghi oltre una soglia configurabile. Gestione modelli avanzata → refresh, lista, default persistente, whitelist dinamica, auto‑selezione. Extras opzionali → provider aggiuntivi (come Gemini, Hugging Face, Mistral), template, documentazione, strumenti di sicurezza. Pronto per Termux / Android → rileva automaticamente l'ambiente Termux bypassando flock (spesso instabile o limitato a livello kernel/SELinux su Android) e devia trasparentemente la gestione della concorrenza sul robusto meccanismo di directory lock (mkdir atomico). Bash4LLM⁺ è progettato per ambienti single‑user (PC/laptop, server personali). Bash4LLM⁺ richiede che i seguenti pacchetti (o equivalenti) siano disponibili nel PATH: Esegui questi comandi nel tuo terminale per avviare subito Bash4LLM⁺: # 1. Clona il repository (solo l'ultimo commit per massima velocità) git clone --depth 1 --branch main https://github.com/kamaludu/bash4llm.git repo-bash4llm # 2. Crea una cartella di lavoro ed estrai l'eseguibile mkdir -p bash4llm cp repo-bash4llm/bin/bash4llm bash4llm/ chmod +x bash4llm/bash4llm # 3. Entra nella cartella e aggiorna i modelli cd bash4llm ./bash4llm --refresh-models Lo script ti chiederà l'inserimento della tua chiave API per il provider di default (Groq): Enter API key for provider groq (env GROQ_API_KEY): Inserisci la tua API key, poi esportala per non doverla più inserire durante la sessione: export GROQ_API_KEY="gsk_xxxxxxxxxxxxxxxxx" Consigliato: installa gli Extras opzionali: # 4. Installazione degli Extras ./bash4llm --install-extras ../repo-bash4llm/extras/ Usa Bash4llm ⚡ chmod +x bash4llm export GROQ_API_KEY="gsk_xxxxxxxxxxxxxxxxx" ./bash4llm --help Extras opzionali: ./bash4llm --install-extras Con opzioni: ./bash4llm "scrivi una breve poesia in italiano" Prompt multilinea: ./bash4llm <<'EOF' scrivi una breve poesia in italiano EOF Input da file: echo "spiegami la relatività" | ./bash4llm Modello specifico: ./bash4llm -m llama-3.3-70b-versatile "scrivi un saggio breve" Dry run: ./bash4llm --dry-run "ciao" Provider esterno (se installato): ./bash4llm --provider gemini "traduci questo" Comandi, flag e opzioni disponibili Modelli e provider Flag Argomento Effetto --refresh-models, --refresh-model no Aggiorna la lista modelli (richiede API key). --list-models no Stampa lista modelli (formato interattivo). --list-models-raw no Stampa lista modelli in formato raw (una riga per modello). --list-providers no Stampa lista provider. --list-providers-raw no Stampa provider in formato raw. --set-default sì Imposta modello di default persistente per il provider attivo. -m , --model sì Imposta modello per questa esecuzione. --provider sì Imposta provider da CLI. --provider no Se senza argomento → apre selezione interattiva. Input (file, JSON, template, batch) Flag Argomento Effetto -f sì Aggiunge file a FILE_INPUTS. --json-input sì Imposta input JSON (formato OpenAI-like). --template sì Applica template da BASH4LLM_TEMPLATES_DIR. --batch sì Esegue richieste batch (una riga = un prompt). Sessioni Flag Argomento Effetto --session sì Abilita sessione con ID specifico. --session-window [n] opzionale Imposta finestra sessione (default 10 se non fornito). --init-session si Inizializza in sicurezza una sessione vuota (creando i file NDJSON e i metadati) e la registra nell'indice globale delle sessioni, senza effettuare chiamate API. Richiede l'uso congiunto di --session . Parametri modello / generazione Flag Argomento Effetto --system sì Imposta system prompt. --ture sì Imposta parametro temperatura (da 0.0 a 2.0, alias canonico). --temperature sì Alias di --ture. --max sì Imposta max token. Output e salvataggio Flag Argomento Effetto --save no Forza salvataggio output. --nosave no Disabilita salvataggio. --out sì Percorso file/directory output. --threshold sì Soglia dimensione in byte per salvataggio automatico (default: 1000). --json no Output JSON raw int

Show HN: Bash4LLM+ – A lightweight, dependency-free Bash wrapper for LLM APIs

Key takeaways

More in computer-science