در کنفرانس دریم‌فورس سیلزفورس در ۱۷ سپتامبر ۲۰۲۶، سم آلتمن، مدیرعامل اوپن‌ای‌آی، گفت: «به‌نظر من وقوع میزانی از حوادث در فناوری‌های نو اجتناب‌ناپذیر است.»
نوشته دباشیش، ۱۷ سپتامبر ۲۰۲۶. آلتمن این اظهارنظر را در چارچوب واکنش شرکت‌ها و یادگیری سازمانی مطرح کرد و استدلال کرد آنچه بیش از همه اهمیت دارد، شیوه برخورد صنعت با رخدادها هنگام وقوع آن‌هاست. او گفت: «آنچه واقعاً برایم اهمیت دارد این است که فرهنگ قدرتمندی برای گزارش‌دهی حوادث و یادگیری از آن‌ها داشته باشیم» و از اداره هوانوردی فدرال و هیئت ملی ایمنی حمل‌ونقل به‌عنوان الگوهایی نام برد که هر حادثه را بررسی می‌کنند و برای بهبود ایمنی از آن درس می‌گیرند.
آلتمن نگرانی عمومی درباره سامانه‌های خارج از کنترل و تمرکز قدرت در دست چند آزمایشگاه محدود را پذیرفت. او گفت این نگرانی‌ها قابل درک است و افزود: «دنیا حق دارد از این موضوع بترسد.» او تأکید کرد شرکت‌ها باید فعالیت‌های مربوط به هم‌راستاسازی، ایمنی هوش مصنوعی و پایش را بسیار جلوتر از پیشرفت توانمندی‌های مدل‌ها نگه دارند. او گفت اگر نتوانند این توازن را حفظ کنند، باید آماده باشند سرعت پژوهش را کاهش دهند یا حتی آن را متوقف کنند. او هدف را بازبینی صادقانه رخدادها و بهبود مستمر دانست، نه پذیرش بی‌تفاوت آسیب‌ها.
بحث درباره سرعت پیشرفت و مرجع تصمیم‌گیری
این اظهارات در زمانی مطرح شد که نظارت و انتقاد از آزمایشگاه‌های پیشرو هوش مصنوعی شدت گرفته است، به‌ویژه با نزدیک‌تر شدن سامانه‌ها به سطح بالاتری از خودمختاری. سخنان اخیر جیکوب کاکسون، پژوهشگری که پس از سابقه فعالیت در اوپن‌ای‌آی به‌تازگی از آنتروپیک جدا شده، به این بحث دامن زد. او هشدار داد شرکت‌ها در رقابتی شتاب‌زده به سوی ابرهوش خودبهبوددهنده حرکت می‌کنند.
این اظهارات در گفت‌وگویی گسترده‌تر و ادامه‌دار درباره سرعت مناسب پیشرفت هوش مصنوعی مرزی قرار می‌گیرد. برخی چهره‌های صنعت خواستار احتیاط بیشتر شده‌اند، در حالی که سیاست ایالات متحده در دولت کنونی بر پیشتازی فناورانه تمرکز دارد.
تأکید آلتمن بیش از آنکه نسخه‌ای قطعی ارائه کند، بر فرایندها بود: پذیرفتن این واقعیت که ممکن است حوادث رخ دهند، اما در کنار آن تعهد به گزارش‌دهی شفاف، بازبینی سریع و کار روی هم‌راستاسازی هوش مصنوعی که می‌کوشد تدابیر ایمنی را جلوتر از رشد توانمندی‌ها نگه دارد.
نظر بگذارید
نظرات (2)
آلتمن درست میگه، فرهنگ گزارش‌دهی مهمه. ولی آیا شرکتا عملا شفاف می‌شن؟ تجربه‌م تو پروژه نشون داد حرف و عمل فرق داره
آیا واقعا شرکتا حاضرن سرعتو کم کنن؟ حرفاش منطقیه ولی رقابت و سرمایه اجازه میده؟ نگرانی‌ها جدی‌ان، باید نظارت ملموس باشه…