1 2 flow cha rt syst em mappeople.csail.mit.edu/pkrafft/papers/aekit_digital.pdf · 1 day ago ·...
TRANSCRIPT
-
WHAT IS THE PROBLEM?����������������������������������
�����������������������������������
���������������������������������������������������������������������������������������������������������������������
���
WHAT IS THE AEKit?����������������������������������������������
�������������������������������������������������
�����������������������������������������������������������������������������
���������������������������������������
��������������������������������������
?
!
CHARTFLOW
FILL-IN-THE
SYSTEM MAP
1
3
2
Critical PlatformStudies Group
�������������������������������������������
�������� ���������������������
�����������������
HOW WAS THE AEKit CREATED? ���������������������������������������������������������������������������������������������������������������������������������������������
�������������������������������������������������������������
������������������������������������������������������
HOW DO I USE THE AEKit?������������������������������������������������������������������������������������
���������������������������������������������������������������������������������������������������������������������������������������������������������������
��������������������������������������������������������������������������������������������������
�������������������������
����������������������������������
�������������������������������
��������������������������������������������������
��������������������������������������������������������������
�����������
��������������������������������������������������������������������������������������������������
www.aclu-wa.org/aekit/teamhttps://sites.uw.edu/critplat/https://www.aclu-wa.org/https://creativecommons.org/licenses/by-nc-sa/4.0/
-
START
YES
NO/NOT SUREYES
NO
YES NO
������������������������������������ ������������������������������������� ���������������������������������������������
������������������������������������������
����������������������������������������� ������������������������������������������������
NOYES
������������������������������������������������������ ���������������� �������
������
�������������������������������������������������������������������������������������������������������������������������
��������������������������������������������������������������������������������������������������������������������������
������������������������� � ������������������������������� ��������������������������������������������� �
��������������������� �� ����������������� ����������� �
� � ��������������������������������������
��������������������� �
CHARTFLOW��������������������������������������������������������������������������������������������� � ���������������������������������������������������������� ������������������������������������������������������������������������������������ �
�������������������������������������
�������������������������
����������������
����������������������������������������������������������������������������������������������������������������������������������������
��������������������������������������������������������
������������������������� ���������������
����������������������������������������������������������������������������������
����������������������������������������������������������������������������������
����������������������������������������
����������������������������
��������������������
��������������
�����������
�������������
https://www.theyarewatching.org/
-
���� ���� ��� ���������
Algorithm:
���������������������������������������������������������������������������������������������������������
Automated Decision System:
��������������������������������������������������������������������������������������������
Recorded Data:
������������������������������������������������������������������ ������������������������������������������������������������
Databases:
�������������������������������������
Surveillance Tools:
������������������������������������������������������������������������������������������������������������������������
TECHNOLOGYDEVELOPER
GOVERNMENTAGENCY$
$
����
SYSTEM
DEFINITIONS
COMMUNITYMEMBERS
MAP
��������� ��������� �����
�������������
������������������
AUTOMATED DECISION SYSTEMS
DATABASES
#SURVEILLANCE TOOLS
ALGORITHMIC SYSTEM
�������������
����� �����
Input Data:
���������������������������������������������
�������������������������������������������������������������������������������������
-
FILL-IN-THE
������������� ������������������������������������� �� �
������������������������� ���������������������������������������������� ����������������� ��� �������������������������� �������� �������� �������
TO USE:
���������������
������� ���� ����� �����
���������������� ������ ����������������
GOVERNMENT AGENCY
��� � �������� ����
�������������������������������������� �� �� ��� ��� �����������������������������������
�� �
����������������������������������
TECHNOLOGY DEVELOPER
��� � �������� ����
����������������������������������������������������������������������������������������
�� �>
NAMES
INPUT DATA
������������������ ������� ���������������������� �
�����������������������������������������������������������
������������
������������
�������
�����������
���������������
�������
������������
�������������������������������������������������������������������������������������������
���������������������� ����������������������������������������������������������������
�������������������������������������������������������������������������������
-
>
RECORDED DATA�������������������������� �
��������������������������������������������������������������������������������������������
INTENT
���������������������� ������������������������TECHNOLOGY DEVELOPER�� ��������������� �
�� ���������������������������� �����������������������
���������������������
��������������
��������������
���������������������������������������������������������������������
������������������������������������������������������������� ��
�����������
������������������� ��������������������� ������������ ������������������������ ��������������������������������������������
POTENTIAL FOR ABUSE
������������������������������ ���������� �������� ����������� ��
�� ������������������������
� ����������������������������� �������� ����������� ��
����������������
���������������
www.aclu-wa.org/aekitwww.aclu-wa.org/aekit
-
����������� �������������� ����� � �������������� ������������������������������������ �������������������������������������
������ �� ������ � ��� �� ����� ������������������ ������� ���������� ����������������������� ���������������������������������������������������� �������� ���������
EXAMPLE->
#1K23JQ4091
EXAMPLE->
GOALS:
A1:
�������������������������������������� ���������������� ��������������������������
������������������������������� ������ ����������� ��� ������������������������� �
������������� ������������������������������� �� ��� �� ������� ����������������
�������������� �����������������
���������������������� �������������������������� ����� ���� ����������� ����� ���� �
��� �������� ��� ���� ����� ����� �� �������������� ���������������� ��������� ���� ����������� ��������������������� ����������� ��� ����������������������� ��������� ��� � � ����� �������� ������� ����������� ����������� ���
� ��������������������� �
����������������������������������������������������������������������������������������������������������������
TO USE:
����� ���������������������������������������
������������������������������������������������
�����������������������������������������������������������������������������
����������������������������������������������
�� ���������� ����������������������� ����� ����������������
������� ��������������������������� ��� �������� �
�� ��������
ACCURACY &ERROR INALGORITHMICSYSTEMS
>>
> >
��� ����������� ��������������������������������������������������������������� ��������� ������ �����������
������������������������������������������������������������������
������������������������������ ��������
������
���������������������������������������� ������������������������������������������������� ����������������������������������������������
����������������������������������������������������������������������������������������������������������������������� �����������������������
>
>
>
A).
www.aclu-wa.org/aekitwww.aclu-wa.org/aekit
-
>
A2:
B1:
B2:
����������������������������������������������������������������������������������������������������
�������������������������������������������������������������
������������������������������
����������� �� �������
����������������������������������������������������������������������������������������������������������������������� �
���������������������������������������������������������������������������������������������
�
�����������������������������������������������������
��������������
�����������������������������������������������������������������������������������������������������������������������������������������������������������
������������������������������������������������
���������������
���������������
����������������������
����������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������������
������������������������������������������������������������������
INJUSTICE INALGORITHMIC SYSTEMS
����������������������������� ����� ���� ������������������������������������������������������������������
EXAMPLE->
Tara Lee
��������� �� ���� ����� ����� ��������������������������������������������������������������������������������������
EXAMPLE->
72/100
GOAL:������������������������������
������������������������������������������������������������������������������
�������������������������������������������������������������
��������������������������������������������������������������
���������������������������������������������
�����������������������������������������������������������������
����������������������������������������������������������
������������������������������
�������
>>>>>>
>>
>
>>>
>
B).
AEKit_040520AEKit_Digital
technology name: short name: trade name: government documentation source: developer documentation source: government agency name: technology developer name: input data 1: input data 2: personal impact: recorded data 1: recorded data 2: technological function 1: technological function 2: intended use 1: intended use 2: community name: community impact: