Là một nhà phân tích giàu kinh nghiệm trong ngành công nghệ, tôi thấy cuộc trao đổi công khai gần đây giữa Sam Altman và Greg Brockman của OpenAI liên quan đến sự ra đi của Jan Leike, cựu giám đốc an toàn hàng đầu của họ, khá hấp dẫn.
Sam Altman và Greg Brockman, lãnh đạo của OpenAI, tổ chức đứng sau ChatGPT, gần đây đã nói về việc Jan Leike rời công ty gần đây trên một diễn đàn công khai trên X.com. Jan Leike là một nhân vật nổi bật trong nhóm an toàn của OpenAI.
Theo một bài báo gần đây của CryptoMoon, Leike giữ vị trí giám đốc liên kết tại công ty. Tuy nhiên, ngày 17/5, anh tuyên bố rời đi do mâu thuẫn không thể giải quyết được với ban lãnh đạo công ty.
“Leike lập luận rằng việc ưu tiên phát triển các sản phẩm ấn tượng hơn là văn hóa và quy trình an toàn đã trở nên phổ biến tại OpenAI.”
Trong vòng một ngày sau bài đăng của Leike, Brockman và Altman đã nhanh chóng phản ứng, mỗi người đều nhanh chóng gia nhập X.com.
Về đóng góp của Brockman, ông đã đề xuất một kế hoạch chi tiết và phức tạp bao gồm ba yếu tố chính để đảm bảo sự thống nhất về an toàn trong công ty.
Để bắt đầu, ông thừa nhận những đóng góp quý giá mà Leike đã thực hiện cho công ty trước khi bày tỏ sự không đồng tình với khẳng định rằng OpenAI đã bỏ qua những lo ngại về an toàn.
Với tư cách là một nhà phân tích, tôi sẽ nói như thế này: “Tôi đã chú ý đến những mối nguy hiểm và lợi ích tiềm ẩn của Trí tuệ nhân tạo tổng hợp (AGI) trong bài viết của mình. Đáng chú ý, tổ chức của tôi đã ủng hộ việc quản lý toàn cầu về AGI từ rất lâu trước khi nó trở thành một quy định rộng rãi. chủ đề thảo luận.”
“Thứ hai, chúng tôi đã và đang xây dựng những nền tảng cần thiết để triển khai an toàn các hệ thống ngày càng có năng lực cao hơn. Lần đầu tiên tìm ra cách làm cho công nghệ mới trở nên an toàn không phải là điều dễ dàng.”
Trong phần kết thúc bài phát biểu của Brockman, ông nhấn mạnh rằng những thách thức phía trước sẽ lớn hơn những thách thức mà chúng ta đã phải đối mặt trong quá khứ. Điều cần thiết là chúng tôi phải liên tục nâng cao các biện pháp an toàn của mình để ứng phó với những rủi ro ngày càng tăng liên quan đến từng mẫu xe mới.
Tôi đã phân tích tình hình và phát hiện ra rằng không giống như những gã khổng lồ công nghệ khác, chúng tôi đang tiếp cận sự phát triển một cách thận trọng hơn. Chúng tôi không chắc chắn chính xác khi nào chúng tôi sẽ đáp ứng ngưỡng an toàn để phát hành các tính năng mới, điều này có thể dẫn đến lịch trình ra mắt kéo dài.
Với tư cách là một nhà nghiên cứu đang nghiên cứu cuộc trao đổi gần đây của Sam Altman, tôi nhận thấy rằng mặc dù anh ấy giữ thông điệp ban đầu của mình ngắn gọn về một chủ đề nhất định, nhưng anh ấy vẫn ám chỉ việc chia sẻ những hiểu biết sâu sắc hơn trong tương lai gần.
“Đồng ý với đánh giá của Altman. Quan điểm của Leike nêu lên những lo ngại chính đáng; chúng tôi quyết tâm giải quyết chúng thêm.”
- Aubrey Plaza nói rằng cô ấy ‘Quên cách nói chuyện’ sau khi bị đột quỵ ở tuổi 20
- Core Scientific Signs 3,5 tỷ USD, hợp đồng 12 năm với công ty AI CoreWeave
- Các nhà bán lẻ Hàn Quốc bắt đầu thu hẹp quy mô hoạt động NFT
- Imane Khelif giành huy chương vàng quyền anh Olympic, chiến thắng các trận đấu cả trong và ngoài võ đài
- Phần ngoại truyện của ‘Young Sheldon’ ‘Cuộc hôn nhân đầu tiên của Georgia & Mandy’: Những điều cần biết
- Đây là số dư Bitcoin, Ethereum, Dogecoin hiện tại của Binance
- AAVE đã sẵn sàng cho sự đột phá tiềm năng, nhà phân tích dự đoán mục tiêu 180-200 USD
- Mạng 1kx rút 2,37 triệu đô la bằng $RPL sau mức tăng 22%
- AVAX có thể tăng lên 29 USD sau đợt tăng giá gần đây không?
- Tại sao các công ty khai thác Bitcoin có thể kéo giá BTC xuống còn 54 nghìn đô la một lần nữa
2024-05-19 19:39