Sự kết thúc của "Chỉ cần hỏi Sarah": Khi tài liệu kỹ thuật trở thành cầu nối cho AI

Sarah là người biết tại sao một dịch vụ lại bị chia tách, tại sao một sự trừu tượng hóa (abstraction) lại tồn tại, tại sao một ràng buộc kỳ lạ lại định hình nên thiết kế hiện tại, và tại sao giải pháp hiển nhiên lại bị từ chối ba quý trước đó.

Mọi tổ chức kỹ thuật đều có một Sarah.

Con người có thể hỏi cô ấy. Các tác nhân AI thì không.

Điều đó thay đổi bản chất của tài liệu kỹ thuật. Nếu mã nguồn nhàm chán là một dấu hiệu của tổ chức, thì sự vắng mặt của tài liệu là một dấu hiệu sắc bén hơn nhiều. Tài liệu không còn là một sự lịch sự đối với con người trong tương lai. Nó là bề mặt bền vững duy nhất để ý định của tổ chức tiếp cận việc thực thi.

Một tác nhân AI mở một nhiệm vụ. Có một kho mã nguồn, một câu lệnh (prompt), và một vé (ticket). Nhưng không có Bản ghi quyết định kiến trúc (ADR) giải thích tại sao dịch vụ lại được cấu trúc như vậy. Không có thông số kỹ thuật (spec) mô tả ý định. Tác nhân làm những gì nó được xây dựng để làm: tìm mẫu chủ đạo và mở rộng nó.

Đó không phải là lỗi. Đó là sự lan truyền của "intent debt" (nợ ý định). Một quyết định đã được đưa ra, nhưng nó không được ghi lại. Vì vậy, tác nhân kế thừa kết quả đầu ra mà không có lý do đằng sau, và tự điền vào các chỗ trống.

Con người mang theo trạng thái (state)

Ký ức tổ chức luôn là một cấu trúc xã hội cũng như là một cấu trúc kỹ thuật. Nó sống cùng với kỹ sư đã ở trong đội ngũ bảy năm. Nó nằm trong cụm từ "chỉ cần hỏi Sarah". Trong bối cảnh được chuyển giao trong các cuộc họp 1-1 và tích lũy qua các buổi stand-up hàng ngày. Việc viết lách chỉ là phương án dự phòng — luôn được cho là có ở đó, nhưng hiếm khi được duy trì đến mức có thể thực sự thay thế cho con người nắm giữ bối cảnh gốc.

Điều này có thể chấp nhận được vì chi phí được hoãn lại, không phải vĩnh viễn. Hình phạt của "bus factor" (yếu tố xe buýt) chỉ phát sinh khi có thay đổi nhân sự. Kỹ sư đưa ra quyết định vào quý trước vẫn còn trong đội, cho phép bạn tái tạo ý định bằng cách hỏi.

Chi phí của các quyết định chưa được tài liệu hóa là có thật nhưng có thể phục hồi: hội nhập chậm hơn, một buổi điều tra khó xử trước khi chạm vào một thành phần mong manh, hoặc một chuỗi tin nhắn 30 phút lẽ ra có thể là một bản ADR hai đoạn văn.

Các tổ chức đã học cách vận hành dựa trên truyền miệng vì lựa chọn thay thế cần sự kỷ luật khó để khen thưởng. Với các tác nhân AI, toàn bộ chi phí của việc thiếu hồ sơ giấy tờ phải trả mỗi khi phiên làm việc kết thúc.

Tác nhân AI không có Sarah

Tác nhân AI chỉ có những gì nằm trong cửa sổ ngữ cảnh (context window), và khi cửa sổ đó đóng lại, mọi thứ biến mất. Phiên tiếp theo bắt đầu từ con số không.

Việc truy xuất và bộ nhớ của tác nhân không thay đổi điều này. Chúng chỉ hữu ích nếu tổ chức đã tạo ra thứ gì đó đáng để truy xuất. Một cơ sở dữ liệu vector đầy vé cũ, thông số kỹ thuật viết dở, và các quyết định chỉ xảy ra trên Slack không phải là ký ức thể chế.

Đó là khảo cổ học với công cụ tìm kiếm tốt hơn.

Điều này làm cho "intent debt" về mặt cấu trúc khác biệt đối với tác nhân so với con người. Một kỹ sư con người có thể tích lũy bối cảnh chưa được viết theo thời gian bằng cách mang nó đi tiếp, cập nhật nó và truyền lại. Tác nhân không thể hình thành loại ký ức thể chế khiến truyền miệng trở nên khả thi. Kiến thức từng sống giữa các phiên làm việc giờ phải sống ở đâu đó tồn tại qua sự kết thúc của phiên.

Kho mã nguồn mang theo kết quả của các quyết định: mã đã được triển khai, các sự trừu tượng hóa tồn tại, các mẫu đã lan truyền. Nó không mang theo lý do. Tại sao là ranh giới module này mà không phải module kia? Điều gì đã được đánh giá và loại bỏ trước khi cách tiếp cận hiện tại được chọn? Ràng buộc nào đã tạo ra một thiết kế trông kỳ lạ bây giờ vì ràng buộc đó không còn tồn tại?

Không có lý do đó, một tác nhân gặp mã nguồn chỉ có kết quả để làm việc. Nó không biết liệu mẫu mã là có chủ đích hay một tai nạn lịch sử. Vì vậy, nó coi đó là có chủ đích và mở rộng nó — đó là hành vi đúng dựa trên những gì nó có quyền truy cập, và hành vi sai dựa trên những gì thực sự quan trọng.

Một tác nhân thấy rằng mọi tích hợp khách hàng đều có dịch vụ riêng của nó, vì vậy nó tạo ra một cái khác. Điều nó không thể thấy là mẫu mã đó đến từ một ràng buộc mở rộng quy mô hai năm trước, trước khi lớp tích hợp dùng chung tồn tại.

Ràng buộc đã biến mất. Kiến trúc vẫn tiếp tục nhân bản.

Ý định cần một định dạng

Đối với các tác nhân, giá trị của ADR, thông số kỹ thuật và playbook không phải là tính hoàn chỉnh. Nó là ma sát. Chúng làm gián đoạn động tác mặc định từ "mẫu mã này tồn tại" sang "mẫu mã này nên được mở rộng".

ADR là nơi "intent debt" được trả nợ. Nhiệm vụ của nó là ghi lại không chỉ những gì đã được quyết định, mà còn những gì đã được xem xét và tại sao các lựa chọn thay thế bị loại bỏ. Ràng buộc đã thúc đẩy sự lựa chọn và các sự đánh đổi đã được chấp nhận. Khi một tác nhân đọc nó, quyết định không phải là một sự kiện lịch sử tùy ý — đó là kết luận của một lập luận mà tác nhân giờ có thể đánh giá và mở rộng.

Thông số kỹ thuật hoạt động trên đường chân trời thời gian dài hơn. Một tác nhân tối ưu hóa đường ống thanh toán loại bỏ logic thử lại (retry) trông thừa thãi. Thông số kỹ thuật sẽ cho nó biết các lần thử lại là một đảm bảo tính bất biến (idempotency) bắt buộc — không phải là sự sơ suất. Mã không nói tại sao chúng ở đó. Chỉ nói rằng chúng có ở đó. Một thông số kỹ thuật được viết trước mã là mục tiêu. Một thông số kỹ thuật được viết sau mã là mô tả.

Playbook là hiện vật vận hành. Đường chân trời thời gian của nó là sự cố. Một tác nhân phản hồi sự tăng vọt bộ nhớ khởi động lại pod bị ảnh hưởng. Playbook sẽ cho nó biết kiểm tra cấu hình giới hạn tốc độ ngược dòng (upstream rate limiter) trước — việc khởi động lại làm sạch triệu chứng, playbook làm sạch nguyên nhân. Đối với một SRE con người lúc 3 giờ sáng, playbook là xương sống. Đối với một tác nhân, đó là lý luận có cấu trúc duy nhất có sẵn.

Cả ba đều hoạt động ở các lớp khác nhau — quyết định, hướng dẫn và vận hành. Không cái nào sống trong chính mã nguồn đó.

Quyết định không được viết ra vẫn là một quyết định

Sự vắng mặt của tài liệu không phải là trung lập. Nó trả lời một câu hỏi về những gì tổ chức coi là đầu ra. Cấu trúc khuyến khích coi thời gian dành cho việc viết là chi phí overhead, không phải đầu ra.

Sự vắng mặt của một ADR là một dấu hiệu sắc bén hơn bất kỳ thứ gì bạn sẽ tìm thấy trong kho mã nguồn. Mã có thể thông minh vì những lý do khó nhìn thấy từ bên ngoài: các ràng buộc thừa hưởng, các sự đánh đổi hợp lý, hoặc các tai nạn lịch sử.

Tổ chức kháng cự ADR không đang kháng cự một phong cách viết — nó đang tiết lộ một thứ tự ưu tiên. Triển khai trước khi giải thích. Mã trước bối cảnh. Quyết định, nhưng không phải hồ sơ quyết định. Ma sát chưa bao giờ nằm trong văn xuôi.

Sự tập trung của chi phí

Chi phí của việc không viết tập trung chính xác vào nơi khó phục hồi nhất: tác nhân đã nhận nhiệm vụ, không tìm thấy ADR, không tìm thấy thông số kỹ thuật, và tiếp tục với những gì nó có.

Điều đó có nghĩa là viết lách giờ là bề mặt chính mà qua đó ý định tổ chức trở thành một phần của ngữ cảnh.

Tổ chức nhàm chán ghi lại mọi thứ. Nếu quyết định đáng để đưa ra, nó đáng để ghi lại. Nếu không, đó là lựa chọn tổ chức đã thực hiện, và các tác nhân sẽ thực thi nó theo cách chúng thực hiện mọi thứ khác: trung thành, không phán xét, ở quy mô lớn.