Kiểm thử ứng dụng LLM bằng pytest
Sửa prompt cho một ca có thể làm hỏng ba ca khác mà bạn không hay biết. Bài này dựng bộ kiểm thử cho ứng dụng LLM bằng pytest: kiểm tra bằng quy tắc và dùng mô hình chấm điểm.
Sửa prompt cho một ca có thể làm hỏng ba ca khác mà bạn không hay biết. Bài này dựng bộ kiểm thử cho ứng dụng LLM bằng pytest: kiểm tra bằng quy tắc và dùng mô hình chấm điểm.
RAG giúp mô hình ngôn ngữ trả lời dựa trên tài liệu riêng của bạn mà không cần huấn luyện lại. Bài này dựng một bản RAG tối giản: chia đoạn, tìm đoạn liên quan và trích nguồn.
Tìm theo từ khóa sẽ trượt khi khách dùng chữ khác với tài liệu. Embedding biến câu chữ thành vector để tìm theo nghĩa, chạy ngay trên máy bằng sentence-transformers.
Dặn mô hình trả về JSON chưa đủ chắc chắn. Structured output kết hợp với Pydantic cho bạn đối tượng Python đúng kiểu sau mỗi lần gọi, không cần tự parse chuỗi.
Mô hình ngôn ngữ không biết giá hàng trong kho của bạn. Với tool use, nó yêu cầu gọi hàm Python bạn viết sẵn, còn code của bạn chạy hàm thật và gửi kết quả lại.
Tích hợp một mô hình ngôn ngữ vào ứng dụng giờ chỉ còn là một lời gọi API. Bài này dùng SDK Python của Anthropic làm ví dụ, nhưng nguyên tắc áp dụng cho hầu hết…
Beautiful Soup chỉ đọc được HTML tĩnh. Với trang dựng bằng JavaScript — dashboard, ứng dụng React — bạn cần một trình duyệt thật. Playwright điều khiển trình du…
uvicorn main:app –reload rất tiện khi phát triển, nhưng không dành cho môi trường thật: không tự khởi động lại khi server reboot, không dùng hết nhân CPU, khôn…
“Trên máy tôi chạy được” là câu nói đùa quen thuộc của giới lập trình. Docker đóng gói cả ứng dụng lẫn môi trường vào một image, để nó chạy giống hệt nhau ở mọi…