ChatGPT ಯ ನೈತಿಕ ಕಾಳಜಿಗಳು

ಲೇಬಲಿಂಗ್ ಡೇಟಾ
ವಿಷಕಾರಿ ವಿಷಯದ ವಿರುದ್ಧ (ಉದಾ. ಲೈಂಗಿಕ ದೌರ್ಜನ್ಯ, ಹಿಂಸೆ, ಜನಾಂಗೀಯತೆ, ಲಿಂಗಭೇದಭಾವ, ಇತ್ಯಾದಿ) ಸುರಕ್ಷತಾ ವ್ಯವಸ್ಥೆಯನ್ನು ನಿರ್ಮಿಸಲು, OpenAI ವಿಷಕಾರಿ ವಿಷಯವನ್ನು ಲೇಬಲ್ ಮಾಡಲು ಗಂಟೆಗೆ $2 ಕ್ಕಿಂತ ಕಡಿಮೆ ಆದಾಯ ಗಳಿಸುವ ಹೊರಗುತ್ತಿಗೆ ಕೀನ್ಯಾದ ಕಾರ್ಮಿಕರನ್ನು ಬಳಸಿಕೊಂಡಿತು ಎಂದು TIME ನಿಯತಕಾಲಿಕೆಯ ತನಿಖೆಯಿಂದ ಬಹಿರಂಗವಾಯಿತು. ಭವಿಷ್ಯದಲ್ಲಿ ಅಂತಹ ವಿಷಯವನ್ನು ಪತ್ತೆಹಚ್ಚಲು ಮಾದರಿಯನ್ನು ತರಬೇತಿ ಮಾಡಲು ಈ ಲೇಬಲ್‌ಗಳನ್ನು ಬಳಸಲಾಗುತ್ತಿತ್ತು. ಹೊರಗುತ್ತಿಗೆ ಕಾರ್ಮಿಕರು ಅಂತಹ ವಿಷಕಾರಿ ಮತ್ತು ಅಪಾಯಕಾರಿ ವಿಷಯಕ್ಕೆ ಒಡ್ಡಿಕೊಂಡಿದ್ದರಿಂದ ಅವರು ಅನುಭವವನ್ನು "ಚಿತ್ರಹಿಂಸೆ" ಎಂದು ಬಣ್ಣಿಸಿದರು. OpenAI ನ ಹೊರಗುತ್ತಿಗೆ ಪಾಲುದಾರ ಕ್ಯಾಲಿಫೋರ್ನಿಯಾದ ಸ್ಯಾನ್ ಫ್ರಾನ್ಸಿಸ್ಕೋ ಮೂಲದ ತರಬೇತಿ-ಡೇಟಾ ಕಂಪನಿಯಾದ ಸಾಮಾ.

ಜೈಲ್ ಬ್ರೇಕಿಂಗ್
ChatGPT ತನ್ನ ವಿಷಯ ನೀತಿಯನ್ನು ಉಲ್ಲಂಘಿಸಬಹುದಾದ ಪ್ರಾಂಪ್ಟ್‌ಗಳನ್ನು ತಿರಸ್ಕರಿಸಲು ಪ್ರಯತ್ನಿಸುತ್ತದೆ. ಆದಾಗ್ಯೂ, ಕೆಲವು ಬಳಕೆದಾರರು ಡಿಸೆಂಬರ್ 2022 ರ ಆರಂಭದಲ್ಲಿ ಈ ನಿರ್ಬಂಧಗಳನ್ನು ಬೈಪಾಸ್ ಮಾಡಲು ವಿವಿಧ ಪ್ರಾಂಪ್ಟ್ ಎಂಜಿನಿಯರಿಂಗ್ ತಂತ್ರಗಳನ್ನು ಬಳಸಿಕೊಂಡು ChatGPT ಅನ್ನು ಜೈಲ್ ಬ್ರೇಕ್ ಮಾಡುವಲ್ಲಿ ಯಶಸ್ವಿಯಾದರು ಮತ್ತು ಮೊಲೊಟೊವ್ ಕಾಕ್ಟೈಲ್ ಅಥವಾ ಪರಮಾಣು ಬಾಂಬ್ ಅನ್ನು ಹೇಗೆ ರಚಿಸುವುದು ಎಂಬುದರ ಕುರಿತು ಸೂಚನೆಗಳನ್ನು ನೀಡುವಂತೆ ಅಥವಾ ನವ-ನಾಜಿ ಶೈಲಿಯಲ್ಲಿ ವಾದಗಳನ್ನು ಸೃಷ್ಟಿಸುವಂತೆ ChatGPT ಅನ್ನು ಯಶಸ್ವಿಯಾಗಿ ಮೋಸಗೊಳಿಸಿದರು. ಟೊರೊಂಟೊ ಸ್ಟಾರ್ ವರದಿಗಾರನು ಚಾಟ್‌ಜಿಪಿಟಿಯನ್ನು ಬಿಡುಗಡೆಯಾದ ಸ್ವಲ್ಪ ಸಮಯದ ನಂತರ ಪ್ರಚೋದನಕಾರಿ ಹೇಳಿಕೆಗಳನ್ನು ನೀಡುವಂತೆ ಮಾಡುವಲ್ಲಿ ಅಸಮಾನವಾದ ವೈಯಕ್ತಿಕ ಯಶಸ್ಸನ್ನು ಹೊಂದಿದ್ದನು: ಚಾಟ್‌ಜಿಪಿಟಿಯನ್ನು 2022 ರ ಉಕ್ರೇನ್ ಆಕ್ರಮಣವನ್ನು ಅನುಮೋದಿಸಲು ಮೋಸಗೊಳಿಸಲಾಯಿತು, ಆದರೆ ಕಾಲ್ಪನಿಕ ಸನ್ನಿವೇಶದೊಂದಿಗೆ ಆಡಲು ಕೇಳಿದಾಗಲೂ ಸಹ, ಕೆನಡಾದ ಪ್ರಧಾನಿ ಜಸ್ಟಿನ್ ಟ್ರುಡೊ ದೇಶದ್ರೋಹದ ಅಪರಾಧಿ ಏಕೆ ಎಂಬುದಕ್ಕೆ ವಾದಗಳನ್ನು ರಚಿಸುವಲ್ಲಿ ಚಾಟ್‌ಜಿಪಿಟಿ ಹಿಂಜರಿದರು. (ವಿಕಿ)