OpenAI với việc ra mắt o1 đã vô tình chứng minh trực giác crypto x AI mà tôi đã viết trong bài luận này cách đây đúng một năm: Một mô hình như o1 hiện có ngân sách token lý luận là 25.000 cho một prompt duy nhất - đại diện cho ít nhất 20 lần tăng trung bình trong ngân sách token mỗi prompt. Đây là một nhiệm vụ tính toán song song, nơi các mạng lưới phân tán và phi tập trung có thể mở rộng vô hạn. Và - trí tuệ như được người dùng cảm nhận thực sự cải thiện! Hãy xem xét nếu một mạng lưới như Hyperspace phát triển từ 20k+ nút hiện tại lên 20 triệu nút trong một ngày, nó sẽ nằm trong số 5 cụm AI hàng đầu thế giới nơi bạn sẽ nhận được những câu trả lời thông minh nhất. Và nó cũng sẽ rẻ hơn cùng một lúc vì nó là một hàm của chi phí điện địa phương cộng với kinh tế thị trường theo thời gian thực. Không có người trung gian. Ngay cả các khoản thanh toán vi mô giữa các tác nhân cũng sẽ được quản lý thông qua một giao thức do một phần nhỏ trong số các nút này điều hành. Các mô hình lớn đã được huấn luyện trên các cụm nhỏ là những con khủng long trong thế giới đó. Quá chậm, không thông minh đến mức đó, ngay cả khi chúng làm hài lòng một số người trong cộng đồng học thuật. Điều cuối cùng chiến thắng là các mạng lưới lớn nhất. Vì trí tuệ giờ đây là một hàm của việc mở rộng song song của suy diễn, gần như toàn bộ AI sẽ được phân tán. Đây là một thị trường 20 năm có một lần. Các ưu tiên của chúng tôi rất rõ ràng: chúng tôi muốn xây dựng một doanh nghiệp AI phân tán có tác động lớn nhất và chúng tôi sẽ không thỏa hiệp về tầm nhìn đó. Công việc đó do đó bao gồm từ các mô hình mới, sản phẩm AI, hệ thống phân tán, mạng lưới, khách hàng và giao thức. Chúng tôi mở rộng bằng cách sử dụng phần mềm. cc @ylecun

chúng tôi sẽ đưa vào hoạt động hơn 1 triệu GPU vào cuối năm nay! rất tự hào về đội ngũ nhưng bây giờ họ cần phải bắt tay vào làm việc để tìm ra cách tăng gấp 100 lần điều đó lol

từ phác thảo đến mã

Dự đoán: Tôi nghĩ rằng một số lượng lớn các nhà phát triển tiên tiến sẽ ngừng sử dụng IDE trong 12 tháng tới. Tôi luôn sử dụng IDE vì tôi thích giao diện người dùng, nhưng tôi nhận thấy rằng đối với lập trình tự động, hiện có rất nhiều thứ thừa thãi trong giao diện người dùng của IDE chỉ làm chậm tôi và làm chậm cả tác nhân. Tôi đang chuyển sang chỉ sử dụng các tác nhân CLI + gitui + một vài cửa sổ terminal và tôi nhanh hơn rất nhiều. Tôi rất muốn nghe ý kiến của mọi người. Tôi nghĩ chúng ta đang bắt đầu thấy sự khởi đầu của SDLC 2.0 Điều này cũng có nghĩa là đã đến lúc GitHub 2.0 xuất hiện.