난 제임스야.난 작가이자 예술가야그리고 저는 기술에 관한 일을 합니다.저는 실물 크기의 윤곽을 그리는 것과 같은 일을 합니다.군용 드론의전세계 도시의 거리에서,사람들이 생각하기 시작할 수 있도록.그리고 그들의 머리를 돌려라.정말 보기 힘든 것들그리고 생각하기 어려운 기술들.저는 신경망 같은 것들을 만듭니다.선거 결과를 예측하는일기예보에 따르면,왜냐하면 나는 흥미가 있기 때문입니다.실제 가능성이 무엇인지이 이상한 신기술들 중에서.작년에, 제가 지었습니다.나만의 자율주행차.하지만 나는 그렇지 않기 때문에.기술을 정말 신뢰합니다.저는 또한 그것을 위한 덫을 디자인했습니다.
그리고 제가 이런 일들을 주로 하는 이유는아주 매력적인 것 같아요하지만 또한 내 생각에우리가 기술에 대해 이야기할 때,우리는 주로 우리 자신에 대해 이야기하고 있습니다.그리고 우리가 세상을 이해하는 방법.그래서 여기 기술에 대한 이야기가 있습니다.
이것은 "놀라운 달걀" 비디오입니다.이건 기본적으로 누군가의 비디오야초콜릿 달걀을 잔뜩 펼치기그리고 안에 있는 장난감을 보는 사람에게 보여줍니다.바로 그겁니다.그게 다야7분 동안그리고 나는 당신이 주목하기를이것에 대한 두 가지.일단 이 영상은.3천만 뷰.
그리고 또 다른 것은,그것은 채널에서 나옵니다.630만 명의 구독자를 보유하고 있습니다.총 80억 건의 조회 수를 기록했습니다그리고 이것은 단지 이런 비디오들뿐입니다.한 남자를 보는 3천만 명의 사람들이 알들을 여는 것.꽤 이상하게 들리지만, 만약 당신이 검색한다면.유튜브에서 "깜짝 달걀"을 위해,그것은 당신에게 그것이 있다는 것을 말해줄 것입니다.이 비디오들 중 천만 개는제 생각에 그건 과소평가된 것 같아요저는 이것들이 훨씬 더 많은 방법이 있다고 생각합니다.계속 검색하면 끝이 없습니다.수백만 명의 사람들이 있습니다.이 비디오들 중에서.점점 더 바로크적인 조합으로.브랜드와 소재의그리고 그들은 점점 더 많이 있습니다.매일 업로드됩니다.마치, 이곳은 이상한 세상입니다.그렇죠?
하지만 중요한 것은, 그것은 어른들이 아니라는 것입니다.영상을 보고 계신 분들.아이들, 작은 아이들입니다.이 비디오들은어린 아이들을 위한 크랙처럼.그 반복에는 뭔가가 있지만,항상 적은 양도파민이 폭발한 걸로 봐서는그들을 완전히 연결시키는 것.그리고 어린 아이들은 이 비디오들을 봅니다.계속해서, 계속해서,그리고 그들은 몇 시간 동안 그것을 합니다.그리고 시간과 시간.그리고 만약 네가 시도하고 가져가려고 한다면,그들로부터 멀리 떨어진 스크린,그들은 소리를 지르고, 소리를 지르고, 소리를 지를 것입니다.내 말을 못 믿으면,그리고 나는 이미 사람들을 보았습니다.청중들이 고개를 끄덕이는 가운데 --내 말을 못 믿겠으면 다른 사람을 찾아보세요.어린 아이들과 함께, 그리고 그들에게 물어봅니다.그리고 그들은 알게 될 것입니다.깜짝 달걀 영상.여기서부터 시작해야 합니다.2018년인데 누군가, 혹은 많은 사람들이같은 메커니즘을 사용하고 있어요, 예를 들면,페이스북과 인스타그램은그 앱을 계속 확인할 수 있도록 하기 위해,그리고 그들은 유튜브에서 그것을 사용하고 있습니다.아주 어린 아이들의 뇌를 해킹하는 것광고 수입의 대가로
적어도, 나는 희망합니다.그게 그들이 하고 있는 일입니다.그게 그들이 하는 일이기를 바랍니다.더 쉬운 방법이 있기 때문입니다.유튜브에서 광고 수익을 올리는 것.당신은 그냥 물건을 만들거나 훔칠 수 있습니다.그래서 정말로 검색을 해보면,인기 있는 어린이 만화'페파 피그'나 '파우 패트롤'처럼당신은 수백만이 있다는 것을 알게 될 것입니다.온라인에서도 마찬가지입니다.물론, 그들 대부분은 게시되지 않았습니다.원본 콘텐츠 제작자에 의해.부하와 부하에서 발생합니다.서로 다른 무작위 계정의그리고 그것을 아는 것은 불가능합니다.누가 그것들을 게시하고 있습니까?또는 그들의 동기가 무엇인지.좀 익숙하게 들리시나요?정확히 같은 메커니즘이기 때문에그것은 대부분의 지역에서 일어나고 있습니다.우리의 디지털 서비스,알 수 없는 곳에이 정보가 어디서 왔는지 알 수 있습니다.기본적으로 아이들을 위한 가짜 뉴스입니다.그리고 우리는 태어날 때부터 그들을 훈련시키고 있습니다.첫 번째 링크를 클릭합니다그것이 따라옵니다.출처에 관계없이그건 아닌 것 같습니다.대단히 좋은 생각
여기 또 있습니다.아이들의 유튜브에서 정말 큰 인기를 끌고 있습니다.이것은 "손가락 가족 노래"라고 불립니다.방금 누군가가 신음하는 소리를 들었습니다.방청석에서이것은 "손가락 가족 노래"입니다.이것이 제가 찾을 수 있는 첫 번째 것입니다.2007년의 것이고, 그것은 오직.20만 뷰,이 게임에서는 아무것도 할 수 없습니다.하지만 이 곡은 미친 듯이 귀에 거슬리는 곡조를 가지고 있습니다.당신에게 들려주지 않을 것입니다왜냐하면 그것은 스스로를 수색할 것이기 때문입니다.당신의 뇌 속으로과 같은 방법으로내 몸 속으로 파고들었고,그리고 당신에게 그렇게 하지 않을 겁니다하지만 그 깜짝 달걀들처럼그것은 아이들의 머리 속에 있습니다.그들을 중독시켰어요그래서 몇 년 안에이 손가락 가족 비디오들은사방에 나타나기 시작했고,버전을 얻을 수 있습니다.다른 언어로음식을 이용한 인기 있는 어린이 만화와 함께.아니면, 솔직히, 어떤 종류를 사용하든.애니메이션 요소의당신은 거짓말을 하고 있는 것 같습니다.그리고 다시 한 번 말하지만, 수백만 명이그리고 수백만 개의 이 비디오들.이 모든 것에서 온라인으로 이용할 수 있습니다.일종의 미친 조합.그리고 더 많은 시간이그들과 함께 보내기 시작하면,더욱 광적이고 광적인 사람들그럴 수도 있다는 걸 느끼기 시작할 겁니다.
그리고 그게 내가 있는 곳입니다.이 일에 착수한 것처럼,그 깊은 이상한 기분.그리고 깊은 이해의 부족.이것이 어떻게 구성되었는지에 대해.내 주위에 있는 것처럼 보입니다.알 수 없기 때문에이런 것들이 어디서 오는지.예를 들면, 누가 만드는 거죠?그들 중 일부는 만들어진 것으로 보입니다.전문 애니메이터 팀의.그들 중 일부는 그저 무작위적입니다.소프트웨어로 조립된그들 중 몇몇은 꽤 건강해 보입니다.어린이 연예인그리고 그들 중 일부는 사람들로부터 왔습니다.누가 정말로 명확하게아이들 곁에 있으면 안 됩니다.
그리고 다시 한번, 이 불가능은누가 이걸 만드는지 알아내는 것.마치, 이것이 봇인가요?이거 사람이에요?트롤인가요?무슨 뜻입니까?우리가 차이점을 구별할 수 없다는 것.더 이상 이런 것들 사이에?그리고 다시 말하지만, 그 불확실성은지금 좀 친숙하게 느껴지나요?
그래서 사람들이 보는 주요한 방법은그들의 비디오에서 --그리고 기억하세요, 뷰는 돈을 의미합니다.그들이 제목을 채운다는 것입니다.이런 인기 있는 용어를 가진 이 비디오들.그래서 "놀라운 달걀"을 먹는 거죠그리고 나서 당신은 추가합니다."파우 패트롤", "이스터 에그",아니면 이것들이 무엇이든 간에이 모든 단어들은 다른 단어들로부터.당신의 타이틀에 인기 있는 비디오들,당신이 이런 종류의 것으로 끝날 때까지.무의미한 언어의 혼합그것은 인간에게 전혀 말이 되지 않습니다.왜냐하면 물론 그것은 정말로.당신의 비디오를 보고 있는 작은 아이들,그리고 그들이 대체 뭘 알고 있는 거지?당신의 진정한 청중이것이 소프트웨어이기 때문입니다.알고리즘입니다.유튜브에서 사용하는 소프트웨어입니다.어떤 비디오를 선택할 것인지다른 비디오들처럼,인기를 얻기 위해,추천할 수 있습니다.그래서 결국 이런 일을 겪게 되는 거지완전히 무의미한 매쉬 같은 거죠제목과 내용 모두.
하지만 중요한 건 기억해야 한다는 거예요안에는 아직도 사람들이 있습니다.알고리즘적으로 최적화된 이 시스템,친절한 사람들점점 더 행동하도록 강요받는점점 기괴해지는 이들단어들의 조합,필사적인 즉흥 연주자처럼결합된 비명에 반응하기한 번에 100만 명의 유아가 있습니다.진짜 사람들이 있습니다.이 시스템 안에 갇혀 있습니다.그리고 그것은 또 다른 매우 이상한 것입니다.이 알고리즘에 기반한 문화에 대해,당신이 인간이라고 해도,당신은 결국 기계처럼 행동해야 합니다.그저 살아남기 위해.
그리고 화면의 반대쪽에도,아직도 이 어린 아이들이 있습니다.이런 걸 보는 건꼼짝 못하고, 그들의 완전한 관심이 붙잡혔습니다.이 이상한 메커니즘에 의해.그리고 이 아이들의 대부분은 너무 작습니다.심지어 웹사이트를 사용하기도 합니다.그들은 그냥 망치질을 하는 것뿐입니다.그들의 작은 손으로 스크린에.그리고 자동 재생 기능이 있고,이 비디오들을 계속 재생하는 곳.반복해서 반복해서 반복해서,한 번에 몇 시간이고 끝없이그리고 이상한 점이 너무 많습니다.현재 시스템에서그 자동 재생이 당신을 데려갑니다.꽤 이상한 곳으로.이렇게 열두 걸음 안에당신은 귀여운 비디오에서 나올 수 있습니다.계수 열차의.미키 마우스를 자위하는 것.네, 죄송합니다상황이 더 악화됩니다.이렇게 됩니다.이 모든 다른 키워드들이 있을 때,이 모든 관심사들은이 절망적인 세대의 콘텐츠,모든 것이 하나의 장소로 모입니다.여기가 바로 그 모든 이상한 사람들이키워드는 핵심을 찌릅니다.당신은 손가락 가족 비디오를 이종 교배했습니다.슈퍼히어로들과 함께 말이죠이상한 걸 더하면,집안에서 트롤질을 하는 것 같은 일을 하거나,그리고 갑자기, 당신이 옵니다.정말 이상한 곳으로.
부모님을 화나게 하는 경향이 있는 것들.일종의 폭력적인 것입니다.아니면 성적인 내용, 그렇죠?아동 만화가 폭행을 당하는 것과죽임을 당하는 것,사실 이상한 장난들정말 무서운 아이들당신이 가지고 있는 것은 소프트웨어입니다.이 모든 다른 영향들자동 생성아이들의 최악의 악몽그리고 이것들은 정말로, 정말로.어린 아이들에게 영향을 줍니다.부모들은 그들의 아이들을 보고합니다.정신적 충격을 받고,어둠을 두려워하게 되고,그들이 가장 좋아하는 것을 두려워하기만화의 등장인물여기서 한 가지만 빼면,어린 아이들이 있다면,유튜브에서 그들을 멀리하세요.
하지만 또 다른 것, 그것은그게 정말로 이 일에 대해 저를 괴롭히지만,우리가 정말로 확신할 수 있을지도 모르겠어요.우리가 어떻게 여기까지 왔는지 이해합니다.우리가 이 모든 영향력을 가져갔고,이 모든 것들,그리고 그들을 어떤 식으로든 함께 뭉치게 했습니다.아무도 의도하지 않았던 것.그럼에도 불구하고, 이것은 또한 방법입니다.우리가 전 세계를 건설하고 있다는 것.우리는 이 모든 데이터를 수집하고 있습니다.많은 나쁜 데이터,많은 역사적 자료편견으로 가득 찬최악의 일들로 가득 찬역사의 충동,그리고 우리는 그것을 만들고 있습니다.거대한 데이터 세트로그런 다음 자동화하는 것입니다.그리고 우리는 그것을 함께 뭉개고 있습니다.신용 보고서와 같은 것들로,보험료로.예측 같은 것들로.경찰 시스템,판결 지침에 포함됩니다.이게 우리가 실제로 하는 방식입니다.오늘날 세계를 건설하는 것.이 데이터 중에서.뭐가 더 나쁜지는 모르겠지만,우리가 시스템을 구축했다는 것.그것은 완전히 최적화된 것처럼 보입니다.최악의 경우에는.인간의 행동에 대한아니면 우리가 보기에실수로 그런 짓을 하다니,자기도 모르게우리가 하고 있었다는 것,우리는 정말 이해하지 못했기 때문입니다.우리가 만들고 있던 시스템들,그리고 우리는 정말 이해하지 못했습니다.그것으로 무엇이든 다르게 하는 방법.
제가 생각하는 몇 가지가 있습니다.그것이 정말로 이것을 움직이는 것처럼 보입니다.유투브에서 가장 완벽하게,그리고 그 중 첫 번째는 광고입니다.그것은 관심의 수익화입니다.실제 다른 변수 없이는사람들을 위한 어떤 보살핌도.실제로 이 콘텐츠를 개발하는 것,권력의 중앙집권화,그것들의 분리그리고 당신이 어떻게 느끼든광고의 사용에 관하여.일종의 지원을 위해,기저귀를 찬 어른들의 모습모래밭에서 뒹굴기알고리즘을 기대하며.그들이 정말로 이해하지 못하는 것.그들에게 돈을 줄 것입니다.이것이 시사하는 바는아마 그렇지 않을 것입니다.우리가 기반을 두어야 한다는 것.우리의 사회와 문화,그리고 그 방식이우리는 그것에 자금을 대야 합니다.
그리고 또 다른 것은.이것의 주된 원동력은 자동화입니다.어떤 것이 배치입니까?이 모든 기술 중에서.도착하자마자,어떤 종류의 실수도 없이,일단 밖으로 나오면,우리가 손을 들고 가는 것과 같은."이봐요, 우리가 아니라 기술입니다."예를 들면, "우리는 그것에 관여하지 않습니다."그걸로는 충분하지 않아요왜냐하면 이 물건은 그렇지 않기 때문입니다.알고리즘적으로 통제된 것뿐입니다또한 알고리즘적으로 경찰이 배치되어 있습니다.YouTube가 처음 시작되었을 때여기에 주의를 기울이기 위해,그들이 처음으로 한 말그들은 그것에 대해 할 것입니다.그것은 그들이 배치한다는 것이었습니다.더 나은 기계 학습 알고리즘내용을 조정할 수 있습니다.음, 기계 학습,전문가라면 누구나 말해주겠지만,기본적으로 우리가 부르기 시작한 것입니다.우리가 실제로 사용하지 않는 소프트웨어작동 방식을 이해합니다.그리고 제 생각에 우리는그것은 이미 충분합니다.우리는 떠나지 말아야 합니다.이것은 인공지능이 결정할 일입니다.무엇이 적절한지 아닌지,우리는 무슨 일이 일어나는지 알기 때문입니다.그것은 다른 것들을 검열하기 시작할 것입니다.퀴어 콘텐츠 검열이 시작됩니다.검열이 시작됩니다.정당한 대중 연설이 강의에서 허용되는 것은,무슨 일이 있어서는 안 됩니다.그것은 책임지지 않는 시스템에 맡겨집니다.그것은 토론의 일부입니다.우리 모두가 가져야 합니다.
하지만 기억나게 해둘게다가다른 대안은 그렇지 않습니다.매우 유쾌하기도 합니다.유튜브도 최근에 발표했습니다.그들이 풀어줄 것이라는 것.그들의 아이들 앱 버전그것은 전적으로.인간에 의해 조정된.페이스북 -- 저커버그가 말했습니다.의회에서도 똑같은 일이 벌어졌습니다그들이 어떻게 해야 하는지에 대해 압박을 받았을 때.그들의 물건을 조정하려고 했습니다.그는 그들이 그것을 하도록 할 것이라고 말했습니다.그 말의 진짜 의미는유아를 낳는 대신에이 물건을 처음 본 사람은당신은 낮은 임금을 받게 될 것입니다.불안정한 계약직 노동자들적절한 정신 건강 지원 없이그것에 의해서도 피해를 입는 것.
그리고 나는 우리 모두가 할 수 있다고 생각합니다.그것보다 훨씬 낫습니다.
내 생각엔, 그런 생각들이두 가지를 함께 하는 것, 정말로, 나를 위해,에이전시입니다.우리가 정말로 얼마나이해하세요 -- 대리인에 따르면, 제 말은, 다음과 같습니다.우리가 어떻게 행동하는지 아는 방법.우리의 이익을 위하여그 일을 하는 것은 거의 불가능합니다.우리가 가지고 있지 않은 이러한 시스템에서.정말 충분히 이해합니다.힘의 부등식항상 폭력을 초래합니다.그리고 우리는 이 시스템들의 내부를 볼 수 있습니다.그 이해의 불평등같은 일을 합니다.우리가 할 수 있는 일이 하나 있다면,이 시스템들을 개선하기 위해,그것은 그것들을 더 읽기 쉽게 하기 위한 것입니다.그것들을 사용하는 사람들에게,우리 모두가 가질 수 있도록.공통의 이해여기서 실제로 무슨 일이 일어나고 있는지 말입니다.
하지만, 내 생각에, 내 생각엔이러한 시스템에 대한 대부분제가 바라건대, 이것은 아니라는 것입니다.저는 유튜브에 대해 설명했습니다.모든 것에 대한 것입니다.책임과 대리에 관한 이런 문제들은불투명성과 복잡성,폭력과 착취의본질적으로 결과가 되는 것.집중해서소수의 손에 있는 힘의--이것들은 훨씬 더 큰 문제들입니다.그리고 그것들은 유튜브만의 문제가 아닙니다.일반적인 기술뿐만 아니라,그리고 그것들은 심지어 새로운 것도 아닙니다.그들은 오랫동안 우리와 함께 있었습니다.하지만 우리는 마침내 이 시스템을 만들었고,이 글로벌 시스템, 인터넷,그것은 실제로 우리에게 그것들을 보여주고 있습니다.이 특별한 방법으로,그들을 부정할 수 없게 만드는 것.기술은 이처럼 엄청난 용량을 가지고 있습니다.예를 들어 계속합니다.우리의 가장 특별한 모든 것,종종 숨겨진 욕망과 편견그리고 그것들을 세상에 암호화하고,하지만 그것은 또한 그것들을 적습니다.우리가 그들을 볼 수 있도록,우리가 가장할 수 없게.그들은 더 이상 존재하지 않습니다.우리는 기술에 대해 생각하는 것을 멈춰야 합니다.우리의 모든 문제에 대한 해결책으로하지만 그것을 지침으로 생각하세요.그 문제들이 실제로 무엇인지,그래서 우리는 생각하기 시작할 수 있습니다.그들에 대해 적절히.그리고 그들을 다루기 시작합니다.
헬렌 월터스: 제임스, 감사합니다.우리에게 와서 그 이야기를 해주셔서 감사합니다.흥미로운 것은 다음과 같습니다.당신이 영화들에 대해 생각할 때.로봇 오버로드가 인계받습니다.조금 더 매력적입니다.당신이 묘사하고 있는 것보다.하지만 저는 그 영화들에서저항력이 증가하고 있습니다.저항 마운팅이 있습니까?이 물건을 향해서요긍정적인 징후가 보이십니까?저항의 녹색 새싹?
제임스 브라이들:몰라.직접적인 저항에 대해서요내 생각에 이것들은매우 장기적입니다.저는 그것이 문화 속에 구워졌다고 생각합니다.아주 깊은 방법으로내 친구 중 한 명이엘리노어 사이타는 항상 말합니다.어떤 기술적인 문제라도충분한 규모와 범위의우선 정치적인 문제입니다.그래서 우리가 하고 있는 이 모든 것들은이 안에서 언급하자면해결되지 않을 것입니다.기술을 더 잘 구축하는 것만으로도하지만 실제로 사회를 변화시킴으로써.이런 기술들을 생산하고 있습니다.그래서 아니, 지금 당장은, 우리가갈 길이 아주 멀다구요.하지만 말씀드렸듯이, 저는 그것들을 포장함으로써,그들을 설명함으로써, 말함으로써.그들에 대해 아주 정직하게,우리는 실제로 시작할 수 있습니다.적어도 그 과정을 시작하는 것.
HW: 그래서 당신이 이야기할 때가독성과 디지털 사용능력,저는 상상하기가 어렵습니다.우리가 부담을 줄 필요가 있다는 것.사용자 자신에 대한 디지털 사용능력.하지만 누구의 책임입니까?교육은 이 새로운 세계에 있습니까?
JB: 다시 말씀드리지만, 저는 이 책임이라고 생각합니다.우리 모두에게 달렸어요우리가 하는 모든 일이우리가 만드는 모든 것, 우리가 만드는 모든 것,만들어야 합니다.합의된 논의에서.그걸 피하는 모든 사람들과 함께;우리가 시스템을 구축하고 있지 않다는 것.사람들을 속이고 놀라게 하려는 의도로옳은 일을 하는 것,하지만 그들이 실제로 관련되어 있다는 것.그들을 교육하는 모든 단계에서,왜냐하면 이 각각의 시스템들은교육적입니다.그게 제가 희망하는 거예요심지어 이 끔찍한 것들에 대해서도당신이 받아들일 수 있다면 그것은그리고 그것을 제대로 보세요.그것은 사실 그 자체입니다.하나의 교육.당신이 보기 시작할 수 있게 해줍니다.복잡한 시스템이 결합되어 작동하는 방식그리고 아마도 지원할 수 있을 것입니다.그 지식은 세계의 다른 곳에 있습니다.
HW: 제임스, 정말.중요한 토론,그리고 나는 여기에 있는 많은 사람들을 압니다.마음이 열려있고 가질 준비가 되어 있습니다아침을 시작해 주셔서 감사합니다.