알고리즘은 우리가 생각하는 방식부터 결정하는 방식까지 다양한 방식으로 우리의 뇌에 점점 더 영향을 미치고 있습니다. 그것들은 우리의 사고 과정, 우리의 가치, 그리고 우리의 신념을 형성하고 있으며, 우리가 세상을 인식하고 상호 작용하는 방식에 변화를 가져오고 있습니다. 음식이나 이용 서비스 등 우리가 이용하는 것들에는 우리의 호불호가 있지만, 알고리즘에는 호불호를 가질 수 없습니다. 알고리즘은 도대체 무엇일까요?
소속감은 바보를 만든다
알고리즘은 소셜 미디어를 통해서 우리의 뇌에 영향을 미칩니다. 소셜 미디어의 알고리즘은 사용자의 관심사와 과거 행동 패턴을 기반으로 사용자를 위한 콘텐츠를 선별하여 개인화된 뉴스 피드와 타임라인을 만듭니다.
이는 사용자가 자신의 신념과 의견에 부합하는 정보와 관점에만 노출되는 "필터 버블"의 생성으로 이어집니다. 이것은 사람들이 자신의 견해에 더 확고해지고 다양한 의견에 덜 노출되기 때문에 양극화를 증가시킬 수 있습니다.
또한 알고리즘은 우리의 의사결정에도 관여를 하는데요. 알고리즘은 우리의 행동을 예측하는 데 사용됩니다. 예를 들어, 넷플릭스와 유튜브 쿠팡과 같은 플랫폼의 추천 알고리즘은 우리의 시청 및 구매 습관에 대한 데이터를 사용하여 우리가 관심을 가질 수 있는 새로운 콘텐츠 또는 제품을 제안합니다.
이것은 우리가 이전의 선택과 일치하는 정보와 제품에 지속적으로 노출되기 때문에 우리의 기존 선호와 편견을 강화하게 됩니다.
알고리즘은 또한 우리가 정보에 대해 생각하는 방식과 정보의 출처를 평가하는 방식에 영향을 미치고 있습니다. 검색 엔진의 증가와 온라인 정보의 가용성이 증가함에 따라, 우리는 정보를 찾고 분류하는 데 도움이 되는 알고리즘에 점점 더 의존하고 있습니다.
이것은 우리가 종종 알고리즘에 의해 순위가 매겨진 정보에 노출되고, 우리가 읽고 있는 정보의 출처나 정확성을 비판적으로 평가할 가능성이 낮기 때문에 우리가 정보를 인식하는 방식에 변화를 가져다 줍니다.
게다가, 알고리즘은 우리의 주의력과 집중력에 영향을 미치는데요. 장치에서 알림과 업데이트가 계속되면서 우리의 뇌는 좀 더 새로운 정보와 신선한 자극을 찾기를 원하게 되고, 이로 인해 우리는 집중력과 오랜 시간 동안 스마트폰 없이 작업할 수 있는(자제력을 요하는) 작업에 더 많은 노력이 들어가게 됩니다.
이것은 일종의 중독 현상으로 우리의 관심과 충동이 다른 방향으로 쏠리기 때문에 생산성 저하와 창의성 저하, 자제력 저하 등으로 이어지게 됩니다.
마지막으로 알고리즘이 기존에 본인이 가지고 있는 정보와 인식 그리고 차별에 대한 각 개인의 생각을 고착화시키게 됩니다. 예를 들기 가장 무섭지만, 확실한 예시가 정치인데요.
개인이 좌파이거나 우파일 때 어떠한 콘텐츠를 몇개를 보게 되면, 항상 그와 관련된 컨텐츠를 소비시키도록 알고리즘은 추천을 하게 됩니다. 자기와 의향이 맞는 콘텐츠와의 연결을 통해서 사용자는 소속감과 만족감을 느끼게 되고, 한쪽의 정보에 대해서 편향적인 사고방식을 갖출 확률이 높아지는 것입니다.
몇 년 사이에 프로 불편러들이 많아진 이유도 알고리즘
알고리즘은 종종 편향된 데이터에 대해 훈련되기 때문에 기존의 생각방식과 정보편향을 유지해서 인종, 성별 또는 사회 경제적 지위와 같은 요인에 기초하여 특정 그룹에 대한 차별 결과를 초래할 수 있습니다.
폐쇄된 투명성 : 알고리즘은 복잡하고 이해하기 어려울 수 있으므로, 사람들이 어떻게 결정이 내려지는지 이해하는 것을 어렵게 만듭니다. 이러한 투명성의 부족은 알고리즘 사용에 대한 불신과 회의를 초래할 수 있습니다.
편향적인 데이터와 오류: 알고리즘은 학습된 데이터만큼 우수하며 데이터의 오류나 편향은 부정확하거나 불공정한 결정을 초래할 수 있습니다. 이는 특히 형사 사법, 의료 및 대출과 같은 애플리케이션에서 상당한 피해를 초래할 수 있습니다.
실직발생 : 다양한 산업에서 알고리즘의 사용 증가는 일자리 감소와 인력 감소로 이어질 수 있습니다. 이것은 고용과 경제에 큰 영향을 미칠 수 있습니다.
독점적 제어 : 알고리즘 및 독점적 기술을 가진 회사는 정보 및 데이터에 대한 상당한 시장 지배력과 통제력 및 영향력을 가질 수 있으며, 이는 독점적 관행과 권력 집중으로 이어집니다.
개인 정보 남용 : 알고리즘 및 데이터 수집의 증가는 개인 정보가 기업 및 정부에 의해 수집, 분석 및 사용되고 있기 때문에 개인 정보 보호를 저하시킬 수 있습니다.
사회적 책임감의 결여 : 알고리즘은 개인과 사회에 중대한 영향을 미치는 결정을 내릴 수 있지만, 이러한 결정에 책임이 있는 사람을 결정하는 것은 어려울 수 있습니다. 이러한 책임성의 부족은 알고리즘 사용에 대한 신뢰 부족과 회의를 초래할 수 있습니다.
결론
이미 우리는 알고리즘 사회에서 살고 있습니다. 하지만 이를 알고 이용하는 것과 모르고 이용하는 것은 큰 차이가 있습니다. 가성비를 좋아하는 우리의 습관처럼 가성비있게 알고리즘에 이용당하는 것이 아닌 알고리즘을 현명하게 이용하는 우리가 되길 바랍니다.
댓글