□　苑廣闊

　　近日，青島的小美（化名）在使用某網(wǎng)盤(pán)時(shí)，被首頁(yè)“往年今日”推薦了一張自己懷孕的照片，并配文“腦子不夠，肚子來(lái)湊”，文案疑似AI自動(dòng)生成。小美覺(jué)得這句話對(duì)孕婦存在侮辱性，表示不愿再用某網(wǎng)盤(pán)，想取消會(huì)員，退還剩余未到期的部分費(fèi)用。（1月2日《揚(yáng)子晚報(bào)》）

　　近年來(lái)，AI技術(shù)發(fā)展迅猛，功能越來(lái)越強(qiáng)大，同時(shí)，其應(yīng)用范圍也越來(lái)越廣泛。在很多領(lǐng)域，因?yàn)橐肓薃I技術(shù)，有效提高了工作效率，降低了生產(chǎn)和經(jīng)營(yíng)成本而受到了很多企業(yè)商家的歡迎。這當(dāng)然是值得肯定的，也是技術(shù)進(jìn)步帶動(dòng)社會(huì)發(fā)展的重要體現(xiàn)。

　　但是，另一方面，很多技術(shù)都有兩面性，AI技術(shù)也不例外。在上述案例當(dāng)中，用戶在使用某網(wǎng)盤(pán)時(shí)，其首頁(yè)的“往年今日”功能本來(lái)是幫助用戶回憶自己懷孕的過(guò)去時(shí)光，感受生活美好的，結(jié)果卻被配文“腦子不夠，肚子來(lái)湊”。這種涉嫌侮辱孕婦的文案，被懷疑是該網(wǎng)盤(pán)使用AI自動(dòng)生成的。后來(lái)，網(wǎng)盤(pán)方面也承認(rèn)了這一點(diǎn)，在表達(dá)歉意的同時(shí)，也承諾后續(xù)會(huì)加強(qiáng)文案的篩選、提高模型訓(xùn)練和技術(shù)審核能力，避免再出現(xiàn)類(lèi)似問(wèn)題。

　　AI技術(shù)部分解放了人力、提升了效率、降低了成本，這是客觀事實(shí)，但是，如果我們?cè)诤芏鄳?yīng)用上完全依賴AI，可能會(huì)導(dǎo)致我們不愿意看到的結(jié)果。一方面，AI技術(shù)雖然發(fā)展迅猛，但是并不代表它現(xiàn)在就能夠完全替代人類(lèi)從事很多工作；另一方面，即便AI技術(shù)發(fā)展更加成熟、穩(wěn)定了，在很多業(yè)內(nèi)人士看來(lái)，它們?cè)诤芏囝I(lǐng)域也不能完全替代人類(lèi)的作用。

　　實(shí)際上，近年來(lái)類(lèi)似這樣的案例已經(jīng)被多次曝光了。去年，有家長(zhǎng)反映，在向360兒童手表提問(wèn)“中國(guó)人是世界上最聰明的人嗎？”的問(wèn)題時(shí)，得到“炸裂”回答，并且有刻意貶損中國(guó)人的嫌疑。為此，360兒童手表客服人員回應(yīng)稱他們已在緊急處理此事，以后會(huì)加強(qiáng)審核。而這個(gè)讓人感覺(jué)不適的回答，正是利用AI自動(dòng)生成的。

　　雖然AI技術(shù)為我們的生活帶來(lái)了很多便利和創(chuàng)新，為企業(yè)商家提升了效率，降低了成本，但其在應(yīng)用過(guò)程中存在一些問(wèn)題和挑戰(zhàn)。如何確保AI技術(shù)的合理、合規(guī)使用，避免對(duì)用戶造成不必要的傷害和困擾，是擺在我們面前的一個(gè)重要課題。對(duì)于服務(wù)提供商，在享受技術(shù)帶來(lái)的便捷與高效的同時(shí)，絕不能忽視對(duì)倫理、法律和消費(fèi)者權(quán)益的尊重與保護(hù)。企業(yè)應(yīng)更加注重AI技術(shù)的倫理培育，加強(qiáng)內(nèi)部審核機(jī)制，防止類(lèi)似事件再次發(fā)生。尤其是不能把所有工作都交給AI而放棄了人工的干預(yù)，否則出問(wèn)題只是早晚的事情。

　　與此同時(shí)，政府部門(mén)和監(jiān)管機(jī)構(gòu)也應(yīng)加大對(duì)科技行業(yè)的監(jiān)管力度，確保技術(shù)在合法、合規(guī)的軌道上健康發(fā)展、合理使用。（作者地址：廣西桂林市中山北路57號(hào)）

編輯：李永鑫

關(guān)注川南在線網(wǎng)微信公眾號(hào)
長(zhǎng)按或掃描二維碼 ，獲取更多最新資訊 其他