{ "access": { "embargo": { "active": false, "reason": null }, "files": "public", "record": "public", "status": "open" }, "created": "2025-08-09T11:34:15.645678+00:00", "custom_fields": { "code:codeRepository": "https://github.com/DHBern/decoding-inequality-2025" }, "deletion_status": { "is_deleted": false, "status": "P" }, "files": { "count": 1, "enabled": true, "entries": { "DHBern/decoding-inequality-2025-v1.0.0.zip": { "access": { "hidden": false }, "checksum": "md5:81331b1f290e7f23c89a7a2b2074488e", "ext": "zip", "id": "4b0bbe98-bbe3-448c-9bed-1e444aa9d690", "key": "DHBern/decoding-inequality-2025-v1.0.0.zip", "links": { "container": "https://zenodo.org/api/records/16785347/files/DHBern/decoding-inequality-2025-v1.0.0.zip/container", "content": "https://zenodo.org/api/records/16785347/files/DHBern/decoding-inequality-2025-v1.0.0.zip/content", "self": "https://zenodo.org/api/records/16785347/files/DHBern/decoding-inequality-2025-v1.0.0.zip" }, "metadata": null, "mimetype": "application/zip", "size": 29643587, "storage_class": "L" } }, "order": [], "total_bytes": 29643587 }, "id": "16785347", "is_draft": false, "is_published": true, "links": { "access": "https://zenodo.org/api/records/16785347/access", "access_grants": "https://zenodo.org/api/records/16785347/access/grants", "access_links": "https://zenodo.org/api/records/16785347/access/links", "access_request": "https://zenodo.org/api/records/16785347/access/request", "access_users": "https://zenodo.org/api/records/16785347/access/users", "archive": "https://zenodo.org/api/records/16785347/files-archive", "archive_media": "https://zenodo.org/api/records/16785347/media-files-archive", "communities": "https://zenodo.org/api/records/16785347/communities", "communities-suggestions": "https://zenodo.org/api/records/16785347/communities-suggestions", "doi": "https://doi.org/10.5281/zenodo.16785347", "draft": "https://zenodo.org/api/records/16785347/draft", "file_modification": "https://zenodo.org/api/records/16785347/file-modification", "files": "https://zenodo.org/api/records/16785347/files", "latest": "https://zenodo.org/api/records/16785347/versions/latest", "latest_html": "https://zenodo.org/records/16785347/latest", "media_files": "https://zenodo.org/api/records/16785347/media-files", "parent": "https://zenodo.org/api/records/16785207", "parent_doi": "https://doi.org/10.5281/zenodo.16785207", "parent_doi_html": "https://zenodo.org/doi/10.5281/zenodo.16785207", "parent_html": "https://zenodo.org/records/16785207", "preview_html": "https://zenodo.org/records/16785347?preview=1", "quota_increase": "https://zenodo.org/api/records/16785347/quota-increase", "request_deletion": "https://zenodo.org/api/records/16785347/request-deletion", "requests": "https://zenodo.org/api/records/16785347/requests", "reserve_doi": "https://zenodo.org/api/records/16785347/draft/pids/doi", "self": "https://zenodo.org/api/records/16785347", "self_doi": "https://doi.org/10.5281/zenodo.16785347", "self_doi_html": "https://zenodo.org/doi/10.5281/zenodo.16785347", "self_html": "https://zenodo.org/records/16785347", "self_iiif_manifest": "https://zenodo.org/api/iiif/record:16785347/manifest", "self_iiif_sequence": "https://zenodo.org/api/iiif/record:16785347/sequence/default", "versions": "https://zenodo.org/api/records/16785347/versions" }, "media_files": { "count": 0, "enabled": false, "entries": {}, "order": [], "total_bytes": 0 }, "metadata": { "additional_descriptions": [ { "description": "If you use this dataset, please cite it using the metadata from this file.", "type": { "id": "notes", "title": { "de": "Anmerkungen", "en": "Notes" } } } ], "creators": [ { "affiliations": [ { "name": "University of Bern" } ], "person_or_org": { "family_name": "Huber", "given_name": "Rachel", "identifiers": [ { "identifier": "0000-0001-5875-0208", "scheme": "orcid" } ], "name": "Huber, Rachel", "type": "personal" } }, { "affiliations": [ { "name": "University of Bern" } ], "person_or_org": { "family_name": "M\u00e4hr", "given_name": "Moritz", "identifiers": [ { "identifier": "0000-0002-1367-1618", "scheme": "orcid" } ], "name": "M\u00e4hr, Moritz", "type": "personal" } } ], "description": "Die kritische Auseinandersetzung mit Machine-Learning-Systemen und ihren gesellschaftlichen Auswirkungen ist in der heutigen Zeit von h\u00f6chster Relevanz. W\u00e4hrend KI-Technologien zunehmend Einzug in alle Bereiche unseres Lebens halten - von der Gesundheitsversorgung \u00fcber die Strafverfolgung bis hin zu Finanzdienstleistungen und sozialen Medien - w\u00e4chst auch ihr Potenzial, bestehende soziale Ungleichheiten zu verst\u00e4rken oder sogar neue zu schaffen. Die F\u00e4higkeit, diese Systeme zu verstehen, ihre Auswirkungen auf bereits minorisierte Gesellschaftsgruppen kritisch zu hinterfragen und L\u00f6sungen f\u00fcr eine gerechtere Gestaltung zu entwickeln, ist entscheidend f\u00fcr eine ethisch verantwortungsvolle und sozial gerechte technologische Zukunft. Dieses Kolloquium bef\u00e4higt Studierende, aktiv an dieser wichtigen gesellschaftlichen Debatte teilzunehmen und tr\u00e4gt zur Entwicklung von KI-Systemen bei, die das Gemeinwohl f\u00f6rdern und nicht untergraben.\n\nIn diesem Kolloquium untersuchen die Studierenden den gesamten Lebenszyklus von Machine-Learning-Systemen und dessen Auswirkungen auf gesellschaftliche Ungleichheit. Der Kurs beleuchtet, wie bewusste und unbewusste menschliche Verzerrungen und Vorurteile in jeder Phase des ML-Lebenszyklus eingebettet werden k\u00f6nnen und wie diese zu Diskriminierung in verschiedenen gesellschaftlichen Kontexten f\u00fchren.\n\nAufbauend auf den theoretischen Grundlagen der Critical Algorithm Studies lernen die Studierenden, die ethischen, politischen, \u00f6kologischen und \u00f6konomischen Implikationen von ML-Technologien zu analysieren. Der Kurs ist entlang des ML-Lebenszyklus strukturiert:\n\n1. Architekturauswahl: Diskussion verschiedener ML-Architekturen und ihrer Auswirkungen auf Modellkapazit\u00e4ten und \\-grenzen. Kritische Betrachtung, wie architektonische Entscheidungen bestimmte Voreingenommenheiten einbetten k\u00f6nnen. \n2. Datensammlung: Untersuchung von Datenquellen, Kuratierungs- und Filterprozessen. Kritische Perspektiven auf Repr\u00e4sentationsprobleme, Copyright-Fragen und Umweltkosten der Datenspeicherung. \n3. Training: Technische Aspekte des Trainingsprozesses und Auswahl von Hyperparametern. Kritische Betrachtung der Umweltauswirkungen, Arbeitsbedingungen in der KI-Industrie und Machtkonzentration bei ressourcenstarken Unternehmen. \n4. Anwendung: Analyse verschiedener Anwendungsf\u00e4lle von ML-Systemen, Feinabstimmung f\u00fcr spezifische Aufgaben und Bereitstellungsstrategien. Kritische Diskussion ethischer \u00dcberlegungen, potenzieller Missbrauchsszenarien und Fragen der Transparenz und Erkl\u00e4rbarkeit. \n5. Evaluation und \u00dcberwachung: Methoden zur Bewertung von Modellleistung und Verzerrungen. Kritische Perspektiven auf die Grenzen aktueller Evaluierungsmetriken. \n6. Governance und Regulierung: Diskussion aktueller und vorgeschlagener Regulierungsrahmen, ethischer Richtlinien und Herausforderungen bei der Steuerung sich schnell entwickelnder KI-Technologien.\n\nDurchgehend wird betont, dass die Entwicklung und der Einsatz von ML-Systemen auch als Gesch\u00e4ftsmodell zu verstehen sind. Die Studierenden lernen, die kommerziellen Interessen und wirtschaftlichen Auswirkungen zu analysieren, die die Gestaltung und den Einsatz dieser Technologien beeinflussen.\n\nDer Kurs kombiniert theoretische Reflexion mit praktischen \u00dcbungen. Die Studierenden werden sowohl mit den theoretischen (nicht-mathematischen) Grundlagen des maschinellen Lernens vertraut gemacht als auch in die Lage versetzt, kritische Analysen auf Basis aktueller Forschungsergebnisse durchzuf\u00fchren und die implikationen f\u00fcr minorisierte Bev\u00f6lkerungsgruppen von KI in der Gesellschaft zu verstehen. Praktische Beispiele, Fallstudien und Diskussionen aktueller Forschungsarbeiten werden regelm\u00e4ssig in die Lehrveranstaltung integriert, um die Verbindung zwischen technologischen Entwicklungen und ihren gesellschaftlichen Auswirkungen zu verdeutlichen.", "publication_date": "2025-08-09", "publisher": "Zenodo", "related_identifiers": [ { "identifier": "https://github.com/DHBern/decoding-inequality-2025/tree/v1.0.0", "relation_type": { "id": "issupplementto", "title": { "de": "Erg\u00e4nzt", "en": "Is supplement to" } }, "resource_type": { "id": "software", "title": { "de": "Software", "en": "Software" } }, "scheme": "url" } ], "resource_type": { "id": "software", "title": { "de": "Software", "en": "Software" } }, "rights": [ { "description": { "en": "Permits almost any use subject to providing credit and license notice. Frequently used for media assets and educational materials. The most common license for Open Access scientific publications. Not recommended for software." }, "icon": "cc-by-sa-icon", "id": "cc-by-sa-4.0", "props": { "scheme": "spdx", "url": "https://creativecommons.org/licenses/by-sa/4.0/legalcode" }, "title": { "en": "Creative Commons Attribution Share Alike 4.0 International" } } ], "subjects": [ { "subject": "Critical Algorithm Studies" }, { "subject": "Machine Learning" }, { "subject": "Digital Humanities" } ], "title": "Decoding Inequality: Kritische Perspektiven auf Machine Learning und gesellschaftliche Ungleichheit", "version": "v1.0.0" }, "parent": { "access": { "owned_by": { "user": "85121" }, "settings": { "accept_conditions_text": null, "allow_guest_requests": false, "allow_user_requests": false, "secret_link_expiration": 0 } }, "communities": {}, "id": "16785207", "pids": { "doi": { "client": "datacite", "identifier": "10.5281/zenodo.16785207", "provider": "datacite" } } }, "pids": { "doi": { "client": "datacite", "identifier": "10.5281/zenodo.16785347", "provider": "datacite" }, "oai": { "identifier": "oai:zenodo.org:16785347", "provider": "oai" } }, "revision_id": 4, "stats": { "all_versions": { "data_volume": 503934119.0, "downloads": 17, "unique_downloads": 16, "unique_views": 109, "views": 117 }, "this_version": { "data_volume": 296435870.0, "downloads": 10, "unique_downloads": 9, "unique_views": 94, "views": 99 } }, "status": "published", "swh": {}, "updated": "2025-08-09T11:34:15.860382+00:00", "versions": { "index": 2, "is_latest": true } }