Grzegorz Kowalczyk, dziennikarz Business Insider Polska: Kiedy, je\u015bli w og\u00f3le, sztuczna inteligencja stanie si\u0119 \u015bwiadoma?<\/p>\n
Dr Byron Cook, naukowiec University College London i wiceszef Grupy Automatycznego Rozumowania w Amazon Web Services: My\u015bl\u0119, \u017ce uczciwa odpowied\u017a brzmi: nie wiemy \u2014 a ja sam na pewno tego nie wiem. Jestem naukowcem, kt\u00f3ry na co dzie\u0144 my\u015bli w kategoriach bit\u00f3w, bajt\u00f3w i logiki, wi\u0119c szczerze m\u00f3wi\u0105c, nie mam nawet precyzyjnego rozumienia tego, czym jest \u015bwiadomo\u015b\u0107.<\/p>\n
Dalsza cz\u0119\u015b\u0107 rozmowy znajduje si\u0119 pod materia\u0142em video: <\/p>\n
Mam tendencj\u0119, by patrze\u0107 na \u015bwiadomo\u015b\u0107 jak na efekt wielu „cegie\u0142ek” w naszych m\u00f3zgach \u2014 hormon\u00f3w, emocji, ewolucyjnej presji na replikacj\u0119 i ca\u0142ego z\u0142o\u017conego kontekstu biologicznego. Intuicja podpowiada mi, \u017ce w tym sensie jeste\u015bmy wci\u0105\u017c bardzo, bardzo daleko od stworzenia czego\u015b podobnego w \u015bwiecie maszyn i \u017ce s\u0105 to w gruncie rzeczy zupe\u0142nie r\u00f3\u017cne zjawiska.<\/p>\n
Czytaj tak\u017ce w BUSINESS INSIDER<\/p>\n
Pami\u0119tam z dzieci\u0144stwa lata 70. i moment, gdy moi rodzice kupili kalkulator naukowy \u2014 by\u0142 w pewnym sensie „lepszy ode mnie z matematyki”. Odczuwa\u0142em co\u015b podobnego do tego, co ludzie dzi\u015b prze\u017cywaj\u0105 wobec du\u017cych modeli j\u0119zykowych. Kierunek rozwoju narz\u0119dzi jest jasny: coraz wi\u0119cej pracy „oddajemy” maszynom, ale ludzkie rozumienie i \u015bwiadomo\u015b\u0107 pod\u0105\u017caj\u0105 swoj\u0105, do\u015b\u0107 ortogonaln\u0105 drog\u0105. Nie my\u015bl\u0119 wi\u0119c o rozwoju AI jako o prostym marszu ku \u015bwiadomo\u015bci.<\/p>\n
Jaki powinien by\u0107 nast\u0119pny krok w rozwoju sztucznej inteligencji?<\/p>\n
Moim zdaniem kluczowe jest teraz skupienie si\u0119 na wiarygodno\u015bci. Je\u015bli mamy wykorzystywa\u0107 AI szeroko, nie tylko w zabawie czy w zastosowaniach niekrytycznych, musimy mie\u0107 pewno\u015b\u0107, \u017ce nie pope\u0142nia ona b\u0142\u0119d\u00f3w w kluczowych wymiarach swojego dzia\u0142ania.<\/p>\n
Wyobra\u017amy sobie system odpowiadaj\u0105cy na pytania o zasady zwrotu bilet\u00f3w: powinien zawsze podawa\u0107 poprawn\u0105 odpowied\u017a \u2014 i powinien umie\u0107 wyja\u015bni\u0107, dlaczego ta odpowied\u017a jest prawdziwa. To samo dotyczy zastosowa\u0144 „agencyjnych”: czy powinni\u015bmy wys\u0142a\u0107 pieni\u0105dze? Czy mo\u017cemy wyda\u0107 lek? Czy dana operacja jest zgodna z zasadami? W wielu z tych sytuacji nie chcia\u0142bym polega\u0107 wy\u0142\u0105cznie na metodach statystycznych.<\/p>\n
Od ponad dekady rozwijamy w Amazon formalne metody weryfikacji system\u00f3w, kt\u00f3re stoj\u0105 za bezpiecze\u0144stwem AWS \u2014 pomagamy klientom poprawnie korzysta\u0107 z zasad, sieci czy konfiguracji. Przez wiele lat by\u0142a to dzia\u0142alno\u015b\u0107 wa\u017cna, ale ma\u0142o widoczna w debacie publicznej. Dopiero pojawienie si\u0119 „agencyjnej AI” <\/a>oraz zjawiska halucynacji w systemach pytanie\u2013odpowied\u017a sprawi\u0142o, \u017ce temat poprawno\u015bci i formalnego rozumowania nagle sta\u0142 si\u0119 istotny dla wszystkich, nie tylko dla w\u0105skiej grupy in\u017cynier\u00f3w bezpiecze\u0144stwa.<\/p>\n Widzimy ostr\u0105 konkurencj\u0119 mi\u0119dzy du\u017cymi firmami technologicznymi w obszarze AI. Co jest kluczem, by wygra\u0107 ten wy\u015bcig?<\/p>\n Nie my\u015bl\u0119 o tym w kategoriach „wy\u015bcigu”, przynajmniej nie na co dzie\u0144. Model, kt\u00f3ry znam, wygl\u0105da nast\u0119puj\u0105co: rozmawiamy z klientami, pr\u00f3bujemy „zajrze\u0107 za r\u00f3g” \u2014 us\u0142ysze\u0107 to, czego jeszcze nie formu\u0142uj\u0105 wprost, ale czego naprawd\u0119 b\u0119d\u0105 potrzebowa\u0107 \u2014 a nast\u0119pnie podejmujemy strategiczne zak\u0142ady, budujemy produkty i szybko je udost\u0119pniamy. Patrzymy, jak s\u0105 u\u017cywane \u2014 cz\u0119sto w spos\u00f3b, kt\u00f3rego by\u015bmy si\u0119 nie spodziewali \u2014 i na tej podstawie dzia\u0142amy dalej. „S\u0142uchaj klient\u00f3w, buduj, uruchamiaj, znowu s\u0142uchaj” \u2014 ten cykl powtarzany wystarczaj\u0105co d\u0142ugo, przy dobrych mechanizmach feedbacku, prowadzi do w\u0142a\u015bciwych rezultat\u00f3w.<\/p>\n Dalsza cz\u0119\u015b\u0107 artyku\u0142u pod wideo:<\/p>\n Jak wi\u0119c stworzy\u0107 najlepsze modele rozwi\u0105zywania realnych problem\u00f3w klient\u00f3w?<\/p>\n Jest te\u017c wa\u017cny, bardziej naukowy aspekt. Christopher Strachey, wsp\u00f3\u0142czesny Alana Turinga, m\u00f3wi\u0142, \u017ce podzia\u0142 na teori\u0119 i praktyk\u0119 w informatyce jest szkodliwy: teoretycy nie wiedz\u0105, nad jakimi problemami warto pracowa\u0107, a praktycy nie maj\u0105 wystarczaj\u0105co solidnego fundamentu, by zawsze robi\u0107 „w\u0142a\u015bciwe rzeczy”. W mojej pracy obsesja na punkcie klient\u00f3w wyci\u0105ga mnie ze strefy komfortu i zmusza do zajmowania si\u0119 problemami, kt\u00f3rych sam bym sobie nie wybra\u0142 \u2014 a w\u0142a\u015bnie stamt\u0105d cz\u0119sto bior\u0105 si\u0119 najciekawsze wyniki naukowe i lepsze produkty.<\/p>\n Co neurosymboliczna sztuczna inteligencja, kt\u00f3r\u0105 si\u0119 pan zajmuje, oznacza z perspektywy biznesu?<\/p>\n Firmy coraz wyra\u017aniej widz\u0105, \u017ce sztuczna inteligencja b\u0119dzie mia\u0142a ogromn\u0105, potencjalnie destrukcyjn\u0105 i jednocze\u015bnie prze\u0142omow\u0105 moc. W\u0142a\u015bnie dlatego pr\u00f3buj\u0105 ujednolici\u0107 swoje kompetencje w tym obszarze \u2014 przesuwaj\u0105 zasoby z innych projekt\u00f3w, buduj\u0105 wewn\u0119trzne zespo\u0142y AI, inwestuj\u0105 w szkolenia. Powstaj\u0105 liczne eksperymenty i prototypy.<\/p>\n Problem w tym, \u017ce im bardziej dana organizacja opiera si\u0119 na zaufaniu, im wi\u0119kszymi \u015brodkami finansowymi zarz\u0105dza lub im bardziej wp\u0142ywa na bezpiecze\u0144stwo ludzi, tym trudniej jest jej wyj\u015b\u0107 z fazy prototyp\u00f3w. Takie firmy nie mog\u0105 po prostu wdro\u017cy\u0107 narz\u0119dzia, kt\u00f3re czasem si\u0119 myli albo dzia\u0142a w nieprzewidywalny spos\u00f3b.<\/p>\n