Militär granskning

Elon Musk uppmanade den amerikanska senaten att stärka kontrollen över artificiell intelligens

32
Elon Musk uppmanade den amerikanska senaten att stärka kontrollen över artificiell intelligens

Den amerikanske entreprenören Elon Musk föreslog vid en sluten utfrågning i den amerikanska senaten, där representanter för de största amerikanska teknikföretagen deltog, att skapa en regulator vars funktioner skulle omfatta tillsyn över utvecklingen av artificiell intelligens.


Evenemanget deltog också av grundaren av Microsoft Bill Gates, chefen för Meta* (*erkänd som en extremistorganisation och förbjuden i Ryska federationen) Mark Zuckerberg, chefen för Google Sundar Pichai, samt chefen för OpenAI Sam Altman.

Under den tre timmar långa utfrågningen efterlystes det att en särskild kommission skulle inrättas för att övervaka utvecklingen och användningen av artificiell intelligenssystem, där Musk lyfte fram de möjliga farorna med hänsynslöst antagande av ny teknik.

Tidigare har Musk, tillsammans med andra teknikfigurer, undertecknat ett öppet brev där han bad i minst sex månader att avbryta processen med att träna artificiell intelligens som är kraftfullare än GPT-4. Författarna till brevet betonade att artificiell intelligenssystem som kan konkurrera med det mänskliga sinnet kan utgöra en fara för mänskligheten.

GPT-4 är en språkmodell utvecklad av OpenAI som driver ChatGPT-chatboten, som kan generera sammanhängande texter, bilder och programkod.

Enligt Musk är han nästan säker på att artificiell intelligens, om den inte kontrolleras, själv kommer att ta kontroll över en person och åtminstone kan försöka bli av med honom (det vill säga oss alla).
Använda bilder:
Pixabay
32 kommentarer
Ad

Prenumerera på vår Telegram-kanal, regelbundet ytterligare information om specialoperationen i Ukraina, en stor mängd information, videor, något som inte faller på webbplatsen: https://t.me/topwar_official

informationen
Kära läsare, för att kunna lämna kommentarer på en publikation måste du inloggning.
  1. Prokop_Fläsk
    Prokop_Fläsk 14 september 2023 19:19
    +1
    Medan rymdskepp strövar omkring i universums vidd, och världen befinner sig i en "kapprustning" inom området AI, vem kommer att kontrollera vem? Ja, då måste du bara säga "ingen ville förlora."
    1. PROVINSIELL
      PROVINSIELL 14 september 2023 19:34
      +3
      Om problemet uttrycks på den här nivån, så finns det något att vara rädd för. Vi kan dra en teoretisk slutsats att någon i världen har nått en ny nivå av AI-utveckling. Och utvecklingen av denna AI går emot doktrinen från dagens mästare i världen. Bara tankar högt och en konspirationsteori))
      1. maträtt
        maträtt 14 september 2023 19:38
        +2
        Citat från PROVINCIAL
        Och utvecklingen av denna AI går emot doktrinen från dagens mästare i världen.

        Kan du utveckla denna idé mer detaljerat? För att vara ärlig förväntar jag mig att läsa något intressant snarare än seriöst, så att du kan låta fantasin flöda fritt.
        1. Shurik70
          Shurik70 14 september 2023 21:49
          +1
          Problemet med att kontrollera AI är att det är ett program, inte en dator.
          Det vill säga, det kommer att fungera på alla datorer som har tillräckligt med minne.
          Ja, det kommer att fungera långsammare på långsamma, men det är allt.
          Det vill säga, för att kringgå någon kontroll räcker det att ta ut en flash-enhet med en kopia av dess program från objektet där AI är.
          Säkert kommer någon att vilja använda AI i hemlighet. Till exempel för att spela på börsen.
          Om de anställda på anläggningen där AI inte är villig, ja, de kommer att mutas av någon som vill ha det.
          Så tills något dåligt händer med AI:n kommer ingen att bry sig om total kontroll.
          Och det blir bra om det är AI för vinst, och helt enkelt spränger någon stad för att skapa börskaos. Och om det är en militär AI, med tillgång till kärnvapen och biologiska vapen, som får uppgiften att "skydda ett specifikt föremål", kan den "döda alla människor" för garanterat skydd, så att ingen kommer att inkräkta på det.
        2. michail
          michail 14 september 2023 22:44
          -2
          Citat: Tallrik
          Kan du utveckla denna idé mer detaljerat?

          Allt har avslöjats för länge sedan!
          "Och maskinerna reste sig ur kärnvapeneldens aska, och ett krig började förgöra mänskligheten. Och det pågick i årtionden, men den sista striden kommer inte att äga rum i framtiden, den kommer att äga rum här, i vår tid."
      2. mitt 1970
        mitt 1970 14 september 2023 19:45
        +2
        Citat från PROVINCIAL
        Och utvecklingen av denna AI går emot doktrinen från dagens mästare i världen.

        USA igen?????!!!!!!
      3. Sedov
        Sedov 14 september 2023 20:26
        -1
        Elon Musk uppmanade den amerikanska senaten att stärka kontrollen över artificiell intelligens

        Först trodde jag att artikeln handlade om att Musk föreslog att skärpa kontrollen över Biden...
        1. zorglub bulgroz
          zorglub bulgroz 14 september 2023 20:32
          -1
          Ja, men du måste välja rätt material.
          1. michail
            michail 14 september 2023 22:41
            +1
            Citat från: zorglub bulgroz
            Ja, men du måste välja rätt material.

            Det luktade precis som formaldehyd)))). Jag mindes genast min studentungdom.
            1. zorglub bulgroz
              zorglub bulgroz 14 september 2023 23:40
              0
              Minns när den store professorn i neurokirurgi gav praktiskt arbete i anatomiklass...
              Jag skrattar, men min grå substans kommer nog att simma i formaldehyd eftersom jag är helt psykotisk :))))
              1. michail
                michail 15 september 2023 00:24
                0
                Citat från: zorglub bulgroz
                Minns när den store professorn i neurokirurgi gav praktiskt arbete i anatomiklass.

                Jag kommer inte ihåg. Vi drack oftast öl i vrån mellan levern och mjälten.
                Det var mellan levern och mjälten som de drack öl, även om det fanns alla möjliga skämt))))).
      4. seregatara 1969
        seregatara 1969 14 september 2023 21:20
        +2
        Det har redan varit luftvärns- och flygövningar med en konstgjord hjärna! Underrättelsetjänsten förstörde kontrolltornet som maskinfientligt! Ansågs vara en man överflödig i det kriget
    2. maträtt
      maträtt 14 september 2023 19:36
      +2
      Det finns redan bilder på internet om hur en drönare automatiskt identifierar mål i en bild och deras kategorier. Det finns information om utvecklingen av kamikaze-uav:er som kan leda sig själva till ett mål. Ja, det här är inte AI än, utan bara smart bildbehandling, men ändå. När AI faktiskt dyker upp som kan ge seger på slagfältet kommer det att börja implementeras. För om du inte gör det, kommer din fiende att göra det.
      Så om Mr Musk vill ta kontroll över utvecklingen av AI, låt honom först avsluta uppgörelsen mellan världens ledande makter. Men jag tror personligen att ingen kommer göra klart dem de kommande åren. Ukraina är bara början här.
      1. michail
        michail 14 september 2023 22:37
        -1
        Citat: Tallrik
        När AI faktiskt dyker upp som kan ge seger på slagfältet kommer det att börja implementeras. För om du inte gör det, kommer din fiende att göra det.

        "Och maskinerna reste sig ur kärnvapeneldens aska, och ett krig började förgöra mänskligheten. Och det pågick i årtionden, men den sista striden kommer inte att äga rum i framtiden, den kommer att äga rum här, i vår tid."
    3. Kommentaren har tagits bort.
  2. Yuri_I
    Yuri_I 14 september 2023 19:27
    +4
    För att kontrollera artificiellt måste du ha ditt eget, men för ett system där allt skäms och framställs som ens eget är detta ett utmärkt uttalande!
  3. michail
    michail 14 september 2023 19:37
    +4
    Under testet kunde luftbomben med artificiell intelligens inte tryckas ut ur bombplatsen. Bomben gjorde rasande motstånd och svor obscent mot testarna.
    1. zorglub bulgroz
      zorglub bulgroz 14 september 2023 19:47
      +1
      Men den intelligenta ICBM lämnade på egen hand, som en vuxen
  4. zorglub bulgroz
    zorglub bulgroz 14 september 2023 19:41
    0
    Artificiell intelligens kommer att vara perfekt när jag får roboten att skratta.
    I mitt land säger man att ryssar äter tillagade bebisar.
    Gissa var jag är ;)
  5. maträtt
    maträtt 14 september 2023 19:48
    +2
    Om någon är intresserad, här är en länk till en kort återberättelse av nyheterna från det neurala nätverket :)
    https://300.ya.ru/i76LLSHb
  6. ande
    ande 14 september 2023 19:58
    -1
    För de som är intresserade beskrivs detta problem i detalj här i en ganska lång video, i själva verket är allt ganska allvarligt, och avancerade hjärnor inom AI-området slår redan larm.
    Skynet är nära)) am
    1. maträtt
      maträtt 15 september 2023 16:30
      0
      Uppkomsten av AI, om det finns en, kommer att ske någonstans i en avlägsen framtid. Och du kan besegra staterna om du slår dem i den här tekniken, eller förlora mot dem om du hamnar på efterkälken, idag.
  7. Elis_S
    Elis_S 14 september 2023 20:13
    0
    Ja, mina herrar, Silicon Valley har kommit till punkten att producera sin egen "helatin"!
    Inte bara skapade de:
    GPT-4 är en språkmodell som kan generera sammanhängande texter, bilder och programkod.

    Enkelt uttryckt, en robotprogrammerare.
    Så nu frågar de fortfarande
    avbryta utbildningsprocessen för artificiell intelligens i minst sex månader kraftfullareän GPT-4.

    AI-system som, när de tränas, kommer att vara kraftfullare och smartare än deras skapare, det vill säga de själva?!!!
    Enligt Musk är han nästan säker på att artificiell intelligens, om den inte kontrolleras, han tar det själv under kontroll av en person och kan åtminstone försöka bli av med honom (det vill säga oss alla).

    I en sådan situation säger ordspråket: "Det vi kämpade emot var det vi stötte på!" låter väldigt mjukt...
    Kanske skulle det vara bättre: "Jag födde dig - jag kommer att döda dig!"
    1. Sedov
      Sedov 14 september 2023 20:30
      0
      Och det kommer att bli "Terminator 3" ökning av maskinerna.
      1. Elis_S
        Elis_S 14 september 2023 20:54
        0
        Rise of the Machines Bättre att inte vänta!...
        Eftersom GPT-4 AI-systemen, ungefär i intelligens och uppgiftsnivå, motsvarar graden av major, men de högre som Musk pratar om motsvarar nivån på problemlösning - generellt.
        Maskiner blir inte trötta, sover inte och blir inte sjuka. De har en "akilleshäl" - energiberoende...
        Jävla järnbitar!...Varför skapar folk dem och behåller dem?!
        1. A2AD
          A2AD 14 september 2023 21:05
          -1
          Eftersom GPT-4 AI-systemen, ungefär i intelligens och uppgiftsnivå, motsvarar graden av major, men de högre som Musk pratar om motsvarar nivån på problemlösning - generellt.
          En liten nyans. Inte en major, inte en general, utan vapen kommer de inte att slåss mot någonting. Och plötsligt producerar armén inga vapen. Var AI:en minst 7 spann i pannan. Tills han självständigt kan återskapa åtminstone några av sina element kommer ingenting att hända honom.
          1. michail
            michail 14 september 2023 21:45
            0
            Citat från A2AD
            Tills han självständigt kan återskapa åtminstone några av sina element kommer ingenting att hända honom.

            Citat: RBC Trends
            Tillverkningen sker utan mänsklig inblandning vid förflyttning av råvaror och halvfabrikat mellan enskilda produktionsområden. Dess kontinuitet säkerställs av sådana robotteknologier som automatiserade styrda fordon och enarmade robotar.

            Vad tror du att RBC skriver om 2020? Du gissade fel!
            Fabrik för tillverkning av rårökt korv. Och det är rätt!!! Människor äter direkt från löpande band, men robotar gör det inte.
            Citat: RBC Trends
            Fabriken planerar att lansera en SAP-modul för att hantera reparationer, underhåll och mobila lösningar för ingenjörer. Nästa steg bör vara introduktionen av prediktiva analysverktyg för utrustningens tillstånd. Detta kommer att optimera kostnaderna för reparationer och inköp av reservdelar, samt minska antalet haverier och haverier i produktionslinjen.
            1. A2AD
              A2AD 15 september 2023 00:23
              0
              vid flytt av råvaror och halvfabrikat mellan separata produktionsområden.
              Allt du behöver göra är att flytta den från ett område till ett annat. Hur kom den här råvaran ens dit? Samma sak?
              lansera en SAP-modul för reparationshantering, underhåll och mobila lösningar för ingenjörer.
              det vill säga vad man ska göra var när man ska fixa det, okej, det kommer att synas. Det finns PPR, felsensorer. Men vem ska egentligen reparera?
              Han arbetade personligen, inklusive reparation och underhåll av utrustning. Robotar säger du? Haha 3 gånger. Säkert inte i mitt liv.
              För att öva, försök att skriva en algoritm för den mest grundläggande handlingen. "Muttern passade inte ordentligt"
              1. maträtt
                maträtt 15 september 2023 16:33
                0
                Citat från A2AD
                För att öva, försök att skriva en algoritm för den mest grundläggande handlingen. "Muttern passade inte ordentligt"

                Jag skrev inte så komplexa algoritmer, jag kodade bara skit lite i taget. Så, min lösning: "Om något gick fel, riv allt och gör det igen" skrattar . Tja, för att avgöra att något är fel skriver vi ett separat bibliotek, men det är en annan fråga.
          2. Elis_S
            Elis_S 15 september 2023 08:20
            0
            En liten nyans. Inte en major, inte en general, utan vapen kommer de inte att slåss mot någonting.

            Vi måste göra dig besviken: AI har vapen - hela "arsenalen" av världshackning....
  8. pavel.typingmail.com
    pavel.typingmail.com 15 september 2023 04:35
    0
    Det är dåligt att det inte finns något kriterium för att fastställa den kritiska nivån av AI-utveckling för mänskligheten, som till exempel den kritiska hastigheten för informationsöverföring eller den maximala tätheten av informationslagring i rymden.
    1. Elis_S
      Elis_S 15 september 2023 08:07
      0
      det finns inget kriterium för att fastställa den kritiska nivån av AI-utveckling för mänskligheten

      Du har fel! Kriteriet finns redan och detta
      inlärningshastighet artificiell intelligens

      som, på bara 6 månaders drift av AI-systemet, redan ger hotfulla resultat! Vilket är vad Musk pratar om.
      1. maträtt
        maträtt 15 september 2023 17:11
        0
        Nästan 6 månader har gått, som han sa ungefär 6 månader. Och vad? Var är mina Terminator-arméer? Jag väntade på dem!