나는 9살 때 컴퓨터 공학에 대해 호기심을 갖게 되었습니다. 나는 PBS를 보고 있었고 그들은 MIT에서 라는 이름의 소셜 로봇을 만든 누군가를 인터뷰하고 있었습니다. 키즈멧. 그것은 움직이는 큰 귀를 가지고 있었습니다. 웃을 수 있습니다. 당신이 기계로 그렇게 할 수 있는지 몰랐습니다. 그래서 어렸을 때부터 로봇공학 엔지니어가 되고 싶다는 생각을 하고 MIT에 진학했습니다.
결국 MIT에 갔지만 학사 학위를 위해 Georgia Tech에 갔습니다. 사회적 상호 작용이 지각된 지능의 일부 형태를 보여주기 때문에 로봇이 엿보기를 하도록 하기 위해 노력하고 있었습니다. 그때 나는 코드 편향에 대해 배웠습니다. 로봇이 당신을 보지 않을 때 Peekaboo는 작동하지 않습니다.
[몇 년 후] MIT에서 "안녕, 예쁘다"라고 말하는 [로봇]을 만들 때 내 얼굴을 감지하는 데 어려움을 겪었습니다. 나는 내 손에 얼굴을 그리려고 시도했고 그것을 감지했습니다. 사무실에 흰색 [할로윈] 마스크가 있었습니다. 나는 그것을 [그리고 그것을 감지했다]. 나는 말 그대로 화이트페이스로 코딩하고 있었다. 나는 당신이 미소로 "벽을 칠" 수 있는 또 다른 프로젝트를 했습니다. 동일 문제: 내 얼굴이 인식되지 않았거나 인식되었을 때 남성으로 분류되었습니다.
캐시 오닐의 책 수학 파괴의 무기 기술이 다른 그룹의 사람들에게 다르게 작동하거나 특정 사회적 조건을 악화시켜 나를 덜 외롭게 만드는 방법에 대해 이야기합니다. [당시] 나는 하버드 레지던트 튜터였고 식당 노동자들은 파업 중이었다. 나는 사람들이 항의하는 것을 들었고, 내가 지금 가고 있는 이 편안한 길을 따라갈 것인가, 아니면 위험을 무릅쓰고 알고리즘 정의를 위해 싸울 것인가?
연구 초점을 변경하고 얼굴을 분석하는 다양한 시스템을 테스트하기 시작했습니다. 그것이 제 MIT 석사의 작품이 되었습니다. [프로젝트] 성별 음영. 나는 3개의 아프리카 국가와 3개의 유럽 국가에서 국회의원의 데이터 세트를 수집했고 AI 시스템이 더 밝은 피부의 얼굴에 전반적으로 더 잘 작동한다는 것을 발견했습니다. 전반적으로 그들은 나와 가장 비슷한 사람들, 즉 피부가 더 어두운 여성에게 최악의 일을 합니다.
Buolamwini 박사는 Olay의 Decode Bias 캠페인의 얼굴입니다.
나이마 그린의 사진흑인 남성들이 가짜 안면 인식 일치에 연루된 [후] 체포되었습니다. 성인 얼굴의 50%는 법 집행 기관이 검색할 수 있는 인식 네트워크에서 [찾을 수 있습니다]. 당신은 당신이 아무것도 하지 않았기 때문이 아니라 당신이 당신의 운전 면허증을 갱신했기 때문에 라인업에 고려될 수 있습니다.
알고리즘 불공정은 확실히 소외된 커뮤니티에 영향을 미치지만 누구도 면역이 되지 않습니다. 사람들은 사회 보장 혜택에 대한 접근이 거부되었습니다. [이러한 시스템은] 입사 지원 심사에 포함될 수 있습니다. 이러한 시스템을 훈련하기 위해 역사를 사용한다면 미래는 성차별적인 과거처럼 보일 것입니다.
컴퓨터이기 때문에 중립적이어야 한다고 가정하기 쉽습니다. 그것은 매혹적인 개념입니다. 뷰티 공간에서 '아름다운 피부', '아름다운 여성' 등을 인터넷에 검색하면 유럽 중심의 미인이다. 우리가 기계를 훈련할 때 기계는 사회 내에서 우리 자신의 한계를 반영하는 거울이 됩니다. 우리는 더 넓은 표현을 향해 계속 나아가야 합니다.
Olay와 함께 작업했습니다. 바이어스 디코딩 캠페인 [더 많은 여성들이 STEM 분야에서 경력을 쌓도록 영감을 주기 위해]. 사람들의 이미지를 분석하여 제품을 추천하는 Skin Advisor 시스템 감사에서 우리는 편견을 발견했습니다. 그런 다음 Olay는 이러한 문제를 [완화하기 위해] 약속했습니다. 검은 피부의 흑인 여성으로서 그런 캠페인의 주인공이 되는 것은... 희망이 있습니다.
그것이 우리가 [내 비영리단체]와 함께 추진하는 것입니다. 알고리즘 저스티스 리그: 이러한 시스템을 만드는 기본 방법으로 [질의 편향]. 그것은 처음부터 대화의 일부여야 합니다. 누군가가 체포된 후에 발생하는 일이 아닙니다. — Dianna Mazzone에게 말했듯이
이 이야기는 원래 Allure 2022년 8월호에 실렸습니다.여기에서 구독 방법을 알아보세요.
STEM 분야의 여성에 대해 자세히 알아보기:
- 가장 혁신적인 새로운 스킨케어 브랜드 뒤에 숨은 천재들
- 뷰티 분야의 밀레니얼 여성이 비트코인을 수용하는 이유
- 화장품 화학자가 되는 것이 실제로 어떤 것인지
이제 의사의 전체 일상을 보십시오.
Allure를 팔로우하는 것을 잊지 마세요.인스 타 그램그리고트위터.