Ngày 09 trên 12

AI kèm vận hành

Để site suy nghĩ — và để bạn biết khi nó sập

Bạn có thể… vào cuối ngày

  • Chạy một AI như một HTTP service khác (llama-server) hoặc gọi AI thuê (OpenRouter).
  • Cấu trúc prompt để nhận JSON sạch mà app của bạn parse được.
  • Dựng giám sát uptime và cảnh báo cơ bản (Uptime Kuma / Prometheus / Grafana).
  • Parse và hành động theo log; dựng một mạng riêng mã hóa (WireGuard/ZeroTier).
Sản phẩm

Một site có tính năng AI chạy được + một trình giám sát uptime cảnh báo khi nó sập.

Móc nối toàn cảnh

Nó suy nghĩ được, và báo cho bạn khi ốm. Một ngày “nhanh như chớp” về các bậc tiếp theo, rồi mình lên kế hoạch capstone.

Khái niệm bạn sẽ hiểu gì

  • AI như một service: một model chỉ là một endpoint HTTP — gửi prompt, nhận text/JSON. Tự chạy hoặc thuê.
  • Prompt cho JSON: yêu cầu một hình dạng chặt, parse phòng thủ, và xử lý khi model sai.
  • Quan sát được: metrics, log, uptime; một endpoint health; một cảnh báo đơn giản báo cho bạn khi sập.
  • Mạng riêng: WireGuard / ZeroTier — đường hầm mã hóa giữa bạn và server, để vận hành.

Thực hành thực chiến, kết bằng thứ đang chạy

  1. Gọi AI đầu tiên: gửi một prompt đến model local hoặc thuê và in câu trả lời.
  2. Prompt JSON: bắt model trả về một object JSON chặt và parse bằng Python.
  3. Health + log: thêm endpoint /health, nối một uptime check, và parse log của app để tìm lỗi.
  4. Mạng riêng: cấu hình một peer WireGuard để laptop của bạn vào máy qua đường hầm mã hóa.

Muốn định dạng khác? Mọi định dạng

SlidePDFTrang cuộn