复旦大学在职研究生招生网
日前，复旦大学哲学学院MAE应用伦理2024级专业硕士在职研究生在课程老师杨庆峰教授指导下，在光华楼西主楼2501成功举办了以“人类命运画布上的伦理笔触”为主题的《科技伦理专题》课程案例研讨会。本次研讨会汇聚了来自哲学、公共管理、科技、法律等多个领域的专家学者和研究生及对科技伦理话题感兴趣的社会人士，共同探讨了科技飞速发展背景下的伦理问题和挑战。
会议由哲学学院24级MAE应用伦理专业胡佳欣主持，点评专家包括上海交通大学科学史与科学文化研究院闫宏秀教授、复旦大学国际关系与公共事务学院郑磊教授、复旦大学哲学学院徐志宏副教授和杨庆峰教授。专家们的深入点评为研讨会提供了宝贵的学术支持和指导。研讨会分为上下两个半场，上半场聚焦于人工智能伦理，涉及AI换脸诈骗、生成式人工智能伦理问题、AI Agent落地企业应用及相关问题、算法镜像等议题。下半场则围绕医疗数据的伦理问题、企业智能体实践与反思、DBS（脑深度神经刺激）技术发展的伦理思考、危废物处置的环保技术推广问题等前沿科技伦理案例进行深入研讨。
案例一：AI换脸诈骗
分享人：2024级MAE刘婧贤、张康、姚好、胡佳欣、陈嗣元
数字面庞的技术诞生让一人千面成为了可能。由AI换脸诈骗的案例引发对不同种类数字面庞的探讨，根据同一性和真实性的强弱关系将数字面庞分为数字面貌、数字复活、数字拟真、数字面具四大象限。对这四象限的伦理审视，涉及面孔失真、身份失落、社会失信等范围的讨论，并根据不同情况分析可能涉及的法律后果。结合列维纳斯关于“脸”的表述，特别探讨了数字复活能否成为“他者”、数字面貌中的“美颜”是再现美貌还是审美同质化等内容。希望提出更加明晰的数字面庞使用的知情同意书设计要求，需要严格授权、规范使用，涉及数字采集、数据应用及用户体验等方面知情同意，以期更规范化使用数字面庞。
专家点评：
郑磊教授指出，AI换脸技术的滥用不仅涉及隐私侵犯，还可能对社会信任造成深远影响。他强调，技术提供方应承担起审查义务，确保技术不被用于非法目的。闫宏秀教授则从数据伦理的角度提出，应加强对数字脸庞使用的监管，明确数据采集和应用的规范，保障用户的知情同意权。
案例二：生成式人工智能伦理问题
分享人：2024级MAE张育伟
近年来，通过“深度伪造（Deepfake）”技术生成的虚假内容造成侵权的事件多发，不法分子利用技术实施诈骗的案例也层出不穷。随着生成式人工智能的发展，多模态的“深度伪造”内容的技术门槛已经很低，而技术普及带来的伦理滑坡风险和给人类社会带来的群体性危机也迫在眉睫，主体的“不在场”也在人与技术框架内造成了主体性消解的风险。在以互联网为媒介的数字社会转型的过程中，音视频内容实际上已经成为了主流的信息传播和大众娱乐的主体，“AI数字人”等“深度伪造”内容的商业化也方兴未艾。如何认识技术商业化和人的认知与权利保护的张力，如何对”深度伪造”技术的应用进行合理的治理，回顾智能手机和汽车等有效的治理实践，也许能够提供一种基于原则化的实践治理路径和基于人和技术责任的规制方式。
专家点评：
徐志宏副教授对张玉伟同学提出的分级治理路径表示赞赏，他认为这为解决生成式人工智能的伦理问题提供了新思路。同时，他也指出，分级治理应结合具体场景，明确不同级别下的责任主体和监管措施。杨庆峰教授则强调，生成式人工智能的伦理问题复杂多变，需要跨学科合作，共同寻找解决方案。
案例三：AI Agent落地企业应用及相关问题
分享人：2024级MAE李春堂、陈丹妮
近年来，人工智能（AI）技术飞速发展，大模型驱动的AI Agent正从简单自动化执行跃升至高度自主与创新，深度嵌入各行业，推动企业数智化转型，成为新时代的创新引擎。从AI面试到智能客服，从知识管理到无人驾驶，AI Agent正在重塑传统业务模式，为效率提升和生产力变革注入强大动能。然而，技术革命也带来了诸如隐私保护、算法歧视、责任归属、职业替代和社会公平等一系列复杂伦理挑战，迫使我们重新思考人类与AI的关系。在AI Agent逐步具备自主决策能力以及多AI系统复杂性涌现的背景下，构建跨主体、可解释的动态治理机制已成当务之急。这不仅是防范技术滥用的必要措施，更是守护人类主体性和自由的关键保障。唯有将AI Agent深度融入社会—技术—自然的多元生态中，并与公正、自由和尊严等核心价值相对齐，人类方能迈向人机协作的全新时代，真正实现创新红利的普惠共享。这是技术与伦理融合的时代命题，也是全社会共同面对的使命。
专家点评：
郑磊教授对AI Agent在企业应用中的潜力表示肯定，但他也提醒，技术普及需警惕失业潮和分配不均等问题。闫宏秀教授则提出，企业应在智能化进程中关注员工的职业发展和培训需求，确保技术红利惠及更多人。
案例四：算法镜像
分享人：2024级MAE侯弘毅
2024年初，某社交平台因AI算法操控问题引发广泛关注。该平台运用大数据和AI技术，将算法操控产品化，极大威胁了用户的自主性。用户在这个体系中，由于自爱和利己倾向被过度放大，容易迷失于海量信息，被诱导消费，丧失自我决策的能力。这不仅侵犯了用户隐私，更加剧了认知偏见，导致信息失衡和社会分化。算法操控的滥用还可能引发数据垄断和不公平竞争，威胁社会经济秩序。我们必须对此保持高度警惕，加强监管，明确技术伦理边界，推动科技向善，保障数字经济健康发展。用户在使用这类平台时，应理性看待算法推荐，保持独立思考，避免丧失自主性，成为算法的傀儡。
专家点评：
徐志宏副教授对侯弘毅同学从广告人视角剖析算法镜像表示赞赏，他认为这有助于更深入地理解算法推荐机制的伦理问题。杨庆峰教授则强调，算法镜像不仅影响用户行为，还可能对社会价值观和公共权益造成潜在威胁，因此需要加强监管和透明度。
结合实际案例，分享人进行了精彩的案例展示和深入剖析，展示出科技伦理问题的复杂性和紧迫性。AI换脸诈骗、生成式人工智能伦理问题、AI Agent企业应用、算法镜像、医疗数据使用权、企业智能体实践、DBS技术发展以及危废物处置等前沿科技伦理议题，反映了科技伦理领域的热点和难点，增强讨论的现实关联性和针对性。专家点评环节为每个案例提供了深刻的见解和建议，为案例提供了多维度的解读。会议还特别设置了交流环节和现场投票，增加了互动性，使与会者能更积极地参与讨论。研讨会还邀请第一届应用伦理专业硕士研究生2023级MAE黄鹏作为观察员，他高度评价今年研讨会在深度、交流及实践方面均有显著提升，希望协同持续探索，为构建公正、可持续的科技未来贡献力量。
杨庆峰教授在总结发言中强调，科技伦理教育的重要性日益凸显，希望通过此类研讨会，培养出更多具有伦理意识的科技人才，为构建健康公正的科技生态贡献智慧。他提出，未来将继续推动跨专业交流，将科技伦理教育拓展到更广泛的领域。
随着科技的迅猛发展，科技伦理问题已成为社会关注的热点。通过此次研讨会，复旦大学应用伦理专硕学生展现了其在科技伦理教育和研究方面的专业能力和责任感，为推动科技伦理的学术研究和实践应用提供了有力的支持。
换一换
换一换
