Đi tới nội dung

Hệ thống & kiến trúc

AI engineering cho web developer

Từ UI chat streaming, RAG trả lời đúng, MCP server cho agent đến bảo mật ứng dụng LLM — những gì một web developer cần để đưa tính năng AI lên production.

4 phần93 phút đọcCập nhật 24 thg 10, 2026

Các phần

  1. Phần 1

    Xây dựng UI chat AI streaming mà vẫn mượt: SSE, ReadableStream, markdown tăng dần và nút Stop

    Phần frontend mà các tutorial chat AI hay bỏ qua: chọn transport, tự parse SSE với event bị cắt giữa chunk, Route Handler giữ API key và huỷ ngược lên upstream, state theo message parts, gom render theo requestAnimationFrame, markdown tăng dần an toàn, autoscroll, accessibility và xử lý lỗi.

    19 phút

  2. Phần 2

    RAG trả lời đúng trong thực tế: chunking, hybrid search với pgvector, reranking và đánh giá

    Demo RAG thì ai cũng dựng được trong một buổi chiều; làm cho nó trả lời đúng mới là phần khó. Bài này đi qua một pipeline RAG viết bằng TypeScript trên PostgreSQL/pgvector: chunking theo cấu trúc, hybrid search gộp bằng RRF trong một câu SQL, reranking, phân quyền trước khi xếp hạng, trích dẫn và cách đo chất lượng bằng con số.

    30 phút

  3. Phần 3

    Model Context Protocol thực chiến: xây MCP server production bằng TypeScript

    MCP không phải phép màu, chỉ là một giao thức JSON-RPC được thiết kế tốt. Bài này giải thích host, client, server, các primitive và transport theo spec 2026-07-28, rồi dựng một server TypeScript chỉ đọc cho dữ liệu đơn hàng: thiết kế tool, phân trang, test bằng Inspector, OAuth cho remote server và những lỗ hổng bảo mật cần chặn.

    20 phút

  4. Phần 4

    Bảo mật ứng dụng LLM và agent: prompt injection, excessive agency và OWASP Top 10 cho LLM

    Mô hình mối đe doạ thực tế cho ứng dụng đặt LLM giữa tool và dữ liệu riêng tư: prompt injection trực tiếp và gián tiếp, lethal trifecta, và các design pattern giữ thiệt hại trong tầm kiểm soát, đối chiếu với OWASP Top 10 for LLM Applications.

    24 phút

Chuỗi khác

Chuỗi bài