学生小组探讨了人工智能的伦理维度
多年来,科技行业采取了一种快速和突破性的方法,很少有人会想到市场上出现了一波惊人的通信和导航世界的新工具。
现在,随着对假新闻传播,个人数据滥用以及机器学习算法大规模歧视的可能性日益增加的担忧,人们正在评估该行业的破产情况。三个麻省理工学院的学生,Irene Chen, Leilani Gilpin和 Harini Suresh,他们是新麻省理工学院人工智能伦理阅读小组的创始人, 进入这个清算时刻 。
这三个人都是电气工程和计算机科学系(EECS)的研究生,他们在硅谷工作过,他们亲眼目睹了如何以良好的意愿开发技术可能会出现严重错误。
“人工智能很酷,”陈在最近一个早晨在大堂7聊天时说。“它太强大了。但有时它会吓到我。“
创始人曾在课堂上和朋友之间就人工智能的承诺和风险进行了辩论,但他们在9月份 在剑桥机器学习研讨会上获得了谷歌赞助的 公平性。在那里,麻省理工学院的一位教授提出了一个伦理论坛的想法,并让这三个女人保持联系。
当麻省理工学院上个月宣布计划创建麻省理工学院斯蒂芬A.施瓦茨曼计算机学院时,他们启动了 麻省理工学院人工智能伦理阅读组。在施瓦茨曼宣布之后的热情中,超过60人参加了他们的第一次会面。
其中一位是麻省理工学院斯隆管理学院硕士生Sacha Ghebali 。他在麻省理工学院的金融课程中参加了必修的道德课程,并渴望了解更多信息。
“我们正在构建具有很大杠杆作用的工具,”他说。“如果你没有正确地构建它们,你可能会造成很大的伤害。你需要不断思考道德。“
在最近的一个晚上,Ghebali回到了第二晚的讨论之中。他们在空荡荡的教室里围着一堆披萨盒聚集在一起,因为吉尔平在去年春天重新开始致命的撞车事件而开始了会议,其中一辆自驾车的优步撞上了行人。吉尔平问道,谁应该承担责任,编程汽车的工程师或车轮后面的人?
随后进行了热烈的辩论 然后,当谈话转向道德应该如何教授时,学生们分成小组:要么作为一个独立的课程,要么整合到整个课程中。他们考虑了两种模式:哈佛,它将哲学和道德推理融入其计算机科学课程,以及硅谷的圣克拉拉大学,它在其入门数据科学课程中提供基于案例研究的伦理学模块。
“在CS课程中教授道德很难,所以也许应该有单独的课程,”一名学生提出。其他人认为道德应该整合到每个技术培训层面。
“当你学习编码时,你将学习一个设计过程,”EECS研究生Natalie Lao说,他帮助为K-12学生开发人工智能课程。“如果你将道德规范纳入你的设计实践,你就会学会将道德规范内化为你工作流程的一部分。”
学生们还讨论了是否应考虑最终用户以外的利益相关者。Suresh告诉小组说:“当我正在建立与所有会影响的人交谈时,我从未接受过教育。” “这可能非常有用。”
1922年的计算机科学与电子工程教授Abelson说,该研究所应该如何在麻省理工学院施瓦茨曼计算机学院教授伦理学,他帮助启动了该小组并参加了两次会议。“这真的只是一个开始,”他说。“五年前,我们甚至没有谈论人们关闭汽车的方向盘。”
随着人工智能的不断发展,安全和公平问题仍将是最重要的问题。在麻省理工学院的研究中,伦理阅读小组的创始人同时开发工具来解决小组中提出的困境。
吉尔平正在创建方法和工具,以帮助自动驾驶汽车和其他自动机器解释自己。她说,要让这些机器真正安全且受到广泛信任,他们需要能够解释自己的行为并从错误中吸取教训。
Suresh正在开发算法,使人们更容易负责任地使用数据。在与Google的暑期实习期间,她研究了在Google新闻和其他基于文本的数据集上训练的算法是如何学习某些功能以学习偏见的关联的。她说,识别数据管道中的偏见来源是避免下游应用程序中更严重问题的关键。
Chen,以前是DropBox的数据科学家和参谋长,负责开发用于医疗保健的机器学习工具。在一篇新论文“ 为什么我的分类器歧视”中,她认为AI预测的公平性应该通过收集更多数据来衡量和纠正,而不仅仅是通过调整模型。她下个月在世界上最大的机器学习会议神经信息处理系统上发表论文。
“Dropbox的许多问题,以及现在我在麻省理工学院的研究,都是全新的,”她说。“没有剧本。处理人工智能的一部分乐趣和挑战是你随时都在努力。“
人工智能小组于11月28日和12月12日举行了本学期的最后两次会议。
免责声明:本文由用户上传,与本网站立场无关。财经信息仅供读者参考,并不构成投资建议。投资者据此操作,风险自担。 如有侵权请联系删除!
-
宝子们,杭州 房子装修完成啦!这次要给大家分享几家设计超赞的装修公司哦。它们各具特色,从空间规划到风格...浏览全文>>
-
欲筑室者,先治其基。在上海,装修房子对于每个业主而言,都是极为关键的一步,然而,如何挑选一家值得信赖的...浏览全文>>
-
2025年以来,联通支付严格贯彻落实国家战略部署,以数字和科技为驱动,做好金融五篇大文章,履行支付为民社会...浏览全文>>
-
良工巧匠,方能筑就华居;精雕细琢,方可打造美家。当我们谈论装修公司时,选择一家靠谱可靠的公司是至关重要...浏览全文>>
-
在当今社会,随着城市化进程的高速推进,建筑垃圾的产生量与日俱增。据权威数据显示,我国每年建筑垃圾产生量超 ...浏览全文>>
-
家人们,在上海要装修,选对公司那可太重要了!古语有云:"安得广厦千万间,大庇天下寒士俱欢颜。"一个温馨的...浏览全文>>
-
近年来,新能源汽车市场发展迅猛,各大品牌纷纷推出各具特色的车型以满足消费者多样化的需求。作为国内新能源...浏览全文>>
-
近年来,随着汽车市场的不断变化和消费者需求的升级,安徽滁州地区的宝来2025新款车型在市场上引起了广泛关注...浏览全文>>
-
随着汽车市场的不断变化,滁州地区的消费者对高尔夫车型的关注度持续上升。作为大众品牌旗下的经典车型,高尔...浏览全文>>
-
在2023年,大众探影以其时尚的设计和出色的性能赢得了众多消费者的青睐。作为一款小型SUV,探影凭借其紧凑的车...浏览全文>>
- 安徽滁州途安L新车报价2022款,最低售价16.68万起,入手正当时
- 小鹏G7试驾,新手必知的详细步骤
- 别克GL8预约试驾,4S店的贴心服务与流程
- 安徽阜阳ID.4 CROZZ落地价全解,买车必看的省钱秘籍
- 淮北探岳多少钱 2025款落地价,最低售价17.69万起现在该入手吗?
- 安徽淮南大众CC新款价格2025款多少钱能落地?
- 淮北长安启源C798价格,最低售价12.98万起现在该入手吗?
- 安徽淮南途锐价格,各配置车型售价全解析
- 蒙迪欧试驾预约,4S店体验全攻略
- 沃尔沃XC40试驾需要注意什么
- 滁州ID.4 X新车报价2025款,各车型售价大公开,性价比爆棚
- 试驾思域,快速操作,轻松体验驾驶乐趣
- 试驾长安CS35PLUS,一键搞定,开启豪华驾驶之旅
- 天津滨海ID.6 X落地价限时特惠,最低售价25.9888万起,错过不再有
- 天津滨海凌渡多少钱?看完这篇购车攻略再做决定
- 安徽池州长安猎手K50落地价,买车前的全方位指南
- 山东济南ID.6 CROZZ 2024新款价格,最低售价19.59万起,现车充足
- 试驾海狮05EV,新手必知的详细步骤
- 生活家PHEV多少钱 2025款落地价走势,近一个月最低售价63.98万起,性价比凸显
- 奇瑞风云A9试驾,新手必知的详细步骤