Chúng ta vẫn chưa có AI tự cải thiện, và khi có, nó sẽ là một bước ngoặt lớn. Với nhiều sự khôn ngoan hơn so với thời kỳ GPT-4, rõ ràng rằng nó sẽ không phải là một "cuộc cất cánh nhanh chóng", mà sẽ diễn ra cực kỳ dần dần trong nhiều năm, có thể là một thập kỷ. Điều đầu tiên cần biết là tự cải thiện, tức là các mô hình tự đào tạo, không phải là một quá trình nhị phân. Hãy xem xét kịch bản GPT-5 đào tạo GPT-6, điều này sẽ thật tuyệt vời. Liệu GPT-5 có đột nhiên từ không thể đào tạo GPT-6 chút nào đến việc đào tạo nó một cách cực kỳ thành thạo không? Chắc chắn là không. Những lần chạy đào tạo GPT-6 đầu tiên có thể sẽ cực kỳ không hiệu quả về thời gian và tính toán so với các nhà nghiên cứu con người. Và chỉ sau nhiều lần thử nghiệm, GPT-5 mới thực sự có thể đào tạo GPT-6 tốt hơn con người. Thứ hai, ngay cả khi một mô hình có thể tự đào tạo, nó cũng sẽ không đột nhiên trở nên tốt hơn ở tất cả các lĩnh vực. Có một độ dốc về độ khó trong việc cải thiện bản thân ở các lĩnh vực khác nhau. Ví dụ, có thể tự cải thiện chỉ hoạt động ở những lĩnh vực mà chúng ta đã biết cách dễ dàng khắc phục sau đào tạo, như ảo giác cơ bản hoặc phong cách. Tiếp theo sẽ là toán học và lập trình, điều này cần nhiều công sức hơn nhưng đã có các phương pháp thiết lập để cải thiện các mô hình. Và sau đó, ở mức độ cực đoan, bạn có thể tưởng tượng rằng có một số nhiệm vụ rất khó cho việc tự cải thiện. Ví dụ, khả năng nói Tlingit, một ngôn ngữ bản địa của người Mỹ được khoảng 500 người nói. Sẽ rất khó cho mô hình tự cải thiện trong việc nói Tlingit vì chúng ta chưa có cách giải quyết các ngôn ngữ tài nguyên thấp như thế này ngoại trừ việc thu thập thêm dữ liệu, điều này sẽ mất thời gian. Vì vậy, do độ dốc về độ khó của việc tự cải thiện, nó sẽ không xảy ra tất cả cùng một lúc. Cuối cùng, có thể điều này gây tranh cãi nhưng cuối cùng, tiến bộ trong khoa học bị kìm hãm bởi các thí nghiệm thực tế. Một số người có thể tin rằng việc đọc tất cả các tài liệu sinh học sẽ cho chúng ta phương pháp chữa trị ung thư, hoặc rằng việc đọc tất cả các tài liệu ML và thành thạo tất cả toán học sẽ cho phép bạn đào tạo GPT-10 một cách hoàn hảo. Nếu điều này đúng, thì những người đọc nhiều tài liệu nhất và nghiên cứu nhiều lý thuyết nhất sẽ là những nhà nghiên cứu AI giỏi nhất. Nhưng điều thực sự xảy ra là AI (và nhiều lĩnh vực khác) đã bị chi phối bởi các nhà nghiên cứu thực nghiệm không khoan nhượng, điều này phản ánh mức độ tiến bộ dựa trên các thí nghiệm thực tế hơn là trí thông minh thô. Vì vậy, ý của tôi là, mặc dù một tác nhân siêu thông minh có thể thiết kế các thí nghiệm tốt hơn gấp 2 hoặc thậm chí 5 lần so với các nhà nghiên cứu con người giỏi nhất của chúng ta, nhưng vào cuối ngày, họ vẫn phải chờ các thí nghiệm diễn ra, điều này sẽ là một sự tăng tốc nhưng không phải là một cuộc cất cánh nhanh chóng. Tóm lại, có nhiều nút thắt cho sự tiến bộ, không chỉ là trí thông minh thô hoặc một hệ thống tự cải thiện. AI sẽ giải quyết nhiều lĩnh vực nhưng mỗi lĩnh vực có tốc độ tiến bộ riêng của nó. Và ngay cả trí thông minh cao nhất cũng sẽ vẫn cần các thí nghiệm trong thế giới thực. Vì vậy, sẽ là một sự tăng tốc và không phải là một cuộc cất cánh nhanh chóng, cảm ơn bạn đã đọc những suy nghĩ của tôi.