OPEN AI CEO Sam Altman and Chief Scientist Ilya Sutzkover participated in the event moderated by Dr. Nadav Cohen from Tel Aviv University. They addressed the issue of using AI as a weapon, the impact on the job market and the fear of artificial intelligence getting out of control or being used to develop weapons
"צריך לבנות מנגנון בקרה על הבינה המלאכותית כמו הסוכנות הבינלאומית לאנרגיה אטומית. כך אומרים מנכ"ל OPEN AI סם אלטמן והמדען הראשי של החברה, הישראלי איליה סוצקובר. השניים השתתפו באירוע בהנחית ד"ר נדב כהן מאוניברסיטת תל אביב. הם התייחסו לסוגית השימוש ב-AI כנשק, ההשפעה על שוק העבודה והחשש מתבונה מלאכותית שתצא משליטה או שייעשה בה שימוש לפיתוח נשק מסוכן.
בנוסף, המנגנון שיוקם יצטרך לבקר את היכולות של מודלים הבינה המלאכותית הגדולים כדי "ליישר" אותם עם דרישות הבטיחות, כך שיתרונות הכוח והיכולות שלהם ישמשו את האנושות. עם זאת, אלטמן לא סבור שיש צורך כבר עכשיו להטיל רגולציה כבדה על הבינה המלאכותית, שעלולה לעצור את ההתפתחות המהירה.
Professor Nadav Cohen, an artificial intelligence expert from Tel Aviv University, says that he can think of three threats from artificial intelligence: the first is making many jobs redundant, the second is using it as a weapon such as a single hacker who can carry out operations that until now required a large number of hackers, and the third scenario is the development of artificial intelligence that will get out of control and cause, perhaps, the extinction of the human race.
Sutzkober responds that a new socio-economic contract is needed to overcome AI uncertainty, but in the long run new jobs will be created. They are convinced that in the short term it is necessary to help those who will lose their livelihood through government aid as well as to impart knowledge that will allow them to reintegrate. Programmers no longer write functions and artists also suffer because their livelihood has been taken away by the image engines.
נדב כהן מציין כי במקביל יווצרו מקומות עבודה חדשים, אך אנו עומדים בפני תקופה ארוכה של אי ודאות. "נצטרך לבנות מנגנונים שיאפשרו לנו לרכך את המכה ולאפשר מעבר חלק יותר למקצועות קיימים או למקצועות חדשים לגמרי שיהיו קיימים. במידה והדבר לא אפשרי, הממשלה והמערכות החברתיות יצטרכו להתגייס.
Regarding the possibility of hackers causing great damage or of other entities developing unconventional weapons with the help of artificial intelligence, artificial intelligence does not yet have such capabilities. It will progress and may reach this point in the future, but it is a very powerful technology. The idea that Altman proposed is to establish a mechanism like the International Atomic Energy Agency for the field of artificial intelligence.
"באשר לבינה מלאכותית שתצא משליטה, כן, זה יהיה די גרוע. זו תהיה טעות גדולה לבנות בינה מלאכותית שאנחנו לא מכירים ולא יודעים כיצד היא פועלת", הוסיף אלטמן.
Regarding the labor market, Altman notes that in the short term the picture looks quite good, and he expects to see dramatic growth in productivity. The programmers will be twice as productive and today there is already a shortage of them. In the long run, new categories of jobs will develop so that humans are required in positions that cannot yet be expected.
"כמו שאף אחד לא הפסיק לשחק שחמט אחרי שדיפ בלו ניצח את קספרוב, לכל היותר נעזרים במחשבים כדי לתכנן מהלכים. השחמט לא היה מעולם פופולרי יותר מאשר כיום", הבהיר אלטמן. כלי היצירה החדשים, כמו DALEE (של OPEN AI), מסוגלים ליצור אמנות נהדרת, אך אנשים עדיין מכניסים ללב שלהם את האדם שמאחורי היצירה ורוצים ללמוד ממנו. קשה לחזות את הרצון האנושי להבחין בעצמו, ליצור דברים חדשים ולהשפיע, אך זה עשוי להיראות משונה לחלוטין. "האם בעוד 100 שנה לא נראה כמעט כמו העבודות של היום?", שואל אלטמן. "אני מסכים עם דבריו של איליה שלא משנה מה יקרה, אנחנו נצטרך איזשהו חוזה סוציו-אקונומי שונה כאשר האוטומציה מגיעה למשרות חדשות שקודם לא היו מאוימות", הוסיף אלטמן.
"הדבר שאני הכי מתרגש ממנו באופן אישי הוא שיש דברים נפלאים אדירים שהולכים לקרות בכל מקום, יתרונות כלכליים עצומים, יתרונות עצומים בתחום הבריאות, ואפילו זירוז של תגליות מדעיות", סיכם אלטמן.
More of the topic in Hayadan:
- Sam Altman, CEO of OpenAI - the developer of ChatGPT has signed a new open letter warning against the dangers of artificial intelligence
- If we are going to label artificial intelligence as a cause of extinction, we need to clarify how this will happen
- How will artificial intelligence affect high-tech jobs?
- Elon Musk, Steve Wozniak and many others in an open letter: Strong artificial intelligence is dangerous for democracy
- AI scientist managed to reproduce Nobel-winning discoveries without intention
