매년 약 7 백만 명의 아동이 학대 가능성에 대해 아동 복지 당국에보고되지만, 아동이 좋아하는지 여부를 당국은 어떻게 판단합니까? 가브리엘 페르난데스 심각한 위험에 처해 있고 개입이 필요합니까?
많은 아동 복지 당국은 학대가 의심되는 곳에서 전화를받을 수 있도록 훈련 된 직원이 제공하는 위험 평가에 의존하지만 일부는 더 나은 방법이있을 수 있다고 생각합니다.
'인간이 특별히 좋은 수정 구슬이 아니라는 것을 암시하는 광범위한 문헌이 있습니다.'Emily Putnam-Hornstein, 어린이 데이터 네트워크 USC의 부교수는 새로운 Neflix 다큐 시리즈 '가브리엘 페르난데스의 시험'에서 말했다. '대신 우리가 말하는 것은 장호 위험이 미래의 시스템 참여를 암시하는 프로필에 해당하는 어린이를 식별하는 알고리즘을 훈련시키는 것입니다.'
페르난데즈는 8 살 소년으로 구타 당하고 고문을 받아 어머니 그리고 그녀 남자 친구 , 그의 교사와 다른 사람들이 학대 혐의를보고하는 당국에 반복적으로 전화 했음에도 불구하고. 새로운 6 부작 시리즈는 페르난데스의 삶과 끔찍한 죽음을 조사하지만 전신 문제 역할을 할 수 있었던 아동 복지 시스템 내에서
Putnam-Hornstein은 가장 큰 위험에 처한 어린이를보다 효과적으로 식별하기위한 한 가지 전략은 관리 기록 및 데이터 마이닝을 사용하여 각 어린이의 위험 점수를 결정하는 특수 제작 된 알고리즘을 사용할 수 있다고 주장합니다.
'우리는 실제로 미국에서 매년 학대 또는 방치 혐의로 신고되는 어린이가 약 6 ~ 700 만 명에 이르며, 역사적으로 우리가 선별 검사 결정을 내리는 방식은 일종의 직감 평가에 근거한 것입니다.'라고 그녀는 말했습니다. '예측 위험 모델링은 '아니요, 아니요, 아니요, 이에 대해보다 체계적이고 실증적 인 접근 방식을 취합시다.'라고 말하는 것입니다.'
Putnam-Hornstein과 Rhema Vaithianathan, 공동 감독 소셜 데이터 분석 센터 , 펜실베이니아 주 앨러 게니 카운티에서 아이디어를 실현할 수있었습니다. 이 쌍은 카운티의 아동 보호 서비스에보고 된 모든 가족의 위험 점수를 결정하는 알고리즘을 설계하기 위해 수천 건의 아동 학대 추천을 사용했습니다. 건강 저널리즘 센터 .
Allegheny 카운티 복지부 국장 인 Marc Cherna는 다큐 시리즈에서“백여 가지의 다른 요소를 살펴보고 있습니다. '몇 가지 기본적인 예는 아동 복지 이력, 부모의 이력, 확실히 약물 사용 및 중독, 가족 정신 질환, 감옥 및 유죄 판결, 특히 폭행 등이있는 경우입니다.'
앰버 로즈에 머리카락이없는 이유
전화가 너무 많아서 전국 아동 복지 당국은 고소에 근거한 조사를 위해 가족을 선별 할 것인지 아니면 선별 할 것인지를 결정하는 임무를 맡고있다.
2015 년에 전국적으로 접수 된 720 만 명의 어린이를 대상으로 한 400 만 건의 주장 중 42 %가 차단되었다고합니다. 뉴욕 타임즈 .
그러나 아동 학대로 인해 아동은 계속해서 사망하고 있습니다.
테드 크루즈는 조디악 살인자였습니다
Allegheny 카운티에서 사용되는 시스템은 데이터 분석을 통해 향후 시스템에 참여할 가능성이있는 가족을보다 정확하게 예측하도록 설계되었습니다.
'스크리너가 가진 것은 많은 데이터입니다.'라고 Vaithianathan은 The Times에 말했습니다. “하지만 어떤 요소가 가장 중요한지 탐색하고 파악하는 것은 매우 어렵습니다. C.Y.F.에 대한 단일 호출 내 , 두 자녀, 가해자 혐의, 엄마, 또 다른 성인이있을 수 있습니다.이 모든 사람들은 통화를 선별 한 사람이 조사 할 수있는 시스템의 기록을 갖게됩니다. 그러나 인간의 두뇌는 모든 데이터를 활용하고 이해하는 데 능숙하지 않습니다.”
Allegheny 가족 선별 도구는 '데이터 마이닝'이라는 통계 기법을 사용하여 과거 패턴을 살펴보고 어떤 경우 에든 '일어날 수있는 일에 대한 예측을 시도'한다고 그녀는 다큐 시리즈에서 말했습니다.
각 사례에는 1에서 20까지의 위험 점수가 주어지며 각 사례를 고위험, 중간 위험 또는 저 위험으로 분류합니다.
피츠버그 아동 병원의 소아과 의사 인 레이첼 버거 (Rachel Berger)는 2018 년 타임스에 예측 분석을 가치있게 만드는 것은 일반적으로 프로세스에 들어가는 주관성을 일부 제거한다는 것입니다.
“이 아이들은 모두 혼돈 속에 살고 있습니다. “C.Y.F. 모두 위험 요소가있을 때 가장 위험에 처한 것을 고르십시오. 아동 보호 결정에 포함되는 주관성의 정도를 믿을 수 없습니다. 이것이 제가 예측 분석을 좋아하는 이유입니다. 마침내 인생을 믿을 수 없을 정도로 바꿀 수있는 결정에 객관성과 과학을 가져 왔습니다. '
그러나 예측 분석을 사용하는 것이 이미 편향된 데이터에 의존한다고 주장하는 비평가들도 있습니다. 과거 연구에 따르면 수집 된 데이터에서 소수자와 저소득층 가정이 과도하게 표현되어 잠재적으로 아프리카 계 미국인 가정이나 기타 소수 가정에 대한 편견이 생길 수 있다는 사실이 다큐 시리즈에 따르면 나타났습니다.
“인간의 편견과 데이터 편향은서로 손을 잡고 가다”오하이오 주립 대학의 인종 및 민족성 연구를위한 Kirwan 연구소의 선임 연구원 인 Kelly Capatosto는 건강 저널리즘 센터에 따르면 말했습니다. “이러한 결정을 통해 우리는 경찰, 아동 복지 기관, 모든 사회 복지 기관과의 감시 및 시스템 접촉에 대해 생각합니다. (저소득층과 소수 민족) 커뮤니티에서 과장 될 것입니다. 이러한 인스턴스가 발생하는 위치를 반드시 나타내는 것은 아닙니다. '
Allegheny 카운티의 분석, 기술 및 계획 사무소 부국장 인 Erin Dalton은 편견이 가능하다고 인정했습니다.
“확실히 우리 시스템에는 편견이 있습니다. 아동 학대는 우리와 우리의 데이터가 실제 아동 학대의 기능이 아니라 신고 대상의 기능이라고 생각합니다.”라고 Netflix 시리즈에서 말했습니다.
센트럴 파크 조깅하는 사람은 누구였습니까?
그러나 카운티는 또한 보건 저널리즘 센터에 공공 혜택을 받으면 거의 가족의 위험 점수가 낮아진다는 사실을 발견했다고 밝혔습니다.
티그는 카운티는 이러한 우려에“매우 민감”하고 있으며 그룹이 불균형하게 표적이되었는지 여부를 결정하기 위해 시스템에 대한 지속적인 분석을 수행하고 있다고 다큐 시리즈에서 Cherna는 말했습니다.
Allegheny 카운티 시스템은 카운티 자체 소유이지만 다른 개인 소유의 선별 시스템에 대한 비판도있었습니다.
일리노이 아동 및 가족 서비스 부는 2018 년에 비영리 단체 인 Eckerd Connects와 영리 파트너 인 MindShare Technology가 개발 한 예측 분석 패키지를 더 이상 사용하지 않을 것이라고 발표했습니다. 부분적으로는 회사가 어떤 요인에 대한 세부 정보 제공을 거부했기 때문입니다. The Times에 따르면 그들의 공식에 사용되었습니다.
이 시스템은 수천 명의 어린이를 긴급 보호가 필요한 것으로 지정하기 시작하여 4,100 명 이상의 일리노이 어린이에게 90 % 이상의 사망 또는 부상 가능성을 제공했습니다. 시카고 트리뷴 2017 년에보고되었습니다.
그러나 높은 위험 점수를받지 못한 다른 아이들은 여전히 학대로 죽어 가고 있습니다.
'불량 사례를 예측하는 예측 분석 (아직 아니었다)', 아동 및 가족 서비스 부 이사 인 Beverly 'B.J.' 워커는 트리뷴에 말했다. '저는 그 계약을 진행하지 않기로 결정했습니다.'
Daniel Hatcher, ' 빈곤 산업 : 미국에서 가장 취약한 시민의 착취 ”는 일부 분석 시스템을“블랙 박스”와 비교하면서 의사 결정 방식이 항상 명확하지는 않다고 다큐 시리즈에서 말했습니다.
'그들은 개인에게 큰 영향을 미치는 치료 수준을 실제로 어떻게 결정하고 있는지 파악할 방법이 없습니다.'라고 그는 말했습니다.
Putnam-Hornstein은 예측 분석 시스템이 미래의 행동을 판단 할 수 없다는 점을 인정했지만 선별 검사관이 가장 큰 위험에 처할 수있는 어린이에 대해 더 많은 정보에 입각 한 결정을 내릴 수있는 귀중한 도구라고 믿습니다.
'내 희망은 이러한 모델이 우리 시스템이 위험이 특히 높은 상대적으로 적은 수의 추천에 더 많은주의를 기울이는 데 도움이되고 예방 방식으로 해당 어린이와 가족에게 더 많은 자원을 할애 할 수 있도록하는 것입니다.'라고 그녀는 말했습니다. 건강 저널리즘 센터에. “나는 누구도 예측 위험 모델링을 과도하게 판매하는 것을 원하지 않습니다. 수정 구슬이 아닙니다. 우리의 모든 문제를 해결할 수는 없습니다. 그러나 약간 더 나은 결정을 내리고 고위험 사례를 식별하고 저 위험 사례에서 분류하고 그에 따라 조정할 수 있다면 이는 현장에서 중요한 발전이 될 수 있습니다. '
