TECHSCAPE SCAPE OF FUTURE
ปรากฏการณ์ของ ChatGPT
  • February 15, 2023
  • techscapeadmin
  • 0

สุดยอดปรากฏการณ์ของ ChatGPT

 

สุดยอดปรากฏการณ์ของ ChatGPT หลังจากการเปิดตัวเมื่อปลายเดือนพฤศจิกายน 2022 ที่ผ่านมา ได้สร้างปรากฏการณ์เป็นกระแสฮือฮาในโลกโซเชียลมีเดียเป็นอย่างมาก โดย ChatGPT มียอดดาวน์โหลดใช้งานกว่า 1 ล้านคนภายในเวลาเพียง 5 วันนับจากวันเปิดตัว  ChatGPT ทำลายสถิติแพลตฟอร์มยักษ์ใหญ่อย่างพวก Facebook, Twitter, Instagram, Spotify, Pinterest ได้แบบขาดรอย ตัวเลขสถิตินี้ทิ้งห่างบรรดายักษ์ใหญ่ที่ครองโซเชียลมีเดียไปไกลมาก แต่หลายคนอาจยังไม่รู้ว่า ChatGPT คืออะไร ใครเป็นเจ้าของ และใช้ได้ดีจริงหรือไม่ บทความนี้จะทำให้คุณรู้จัก ChatGPT มากขึ้น

 

สุดยอดปรากฏการณ์ของ ChatGPT

ChatGPT คืออะไร

ChatGPT คือ AI Chatbot โมเดลภาษาขนาดใหญ่ (Large Language Model: LLM) ที่สามารถสนทนาและโต้ตอบกับมนุษย์ได้อย่างน่าทึ่งที่สุดเท่าที่เคยมี 

โมเดลภาษาขนาดใหญ่ (Large Language Model: LLM) ได้รับการฝึกอบรมจากการใช้ข้อมูลจำนวนมหาศาล เพื่อทำหน้าที่ทำนายชุดคำถัดไปในการตอบโต้บทสนทนาได้อย่างแม่นยำ เมื่อมีปริมาณข้อมูลเพิ่มขึ้น โมเดลภาษาก็ยิ่งสามารถทำงานได้หลากหลายและมีประสิทธิภาพมากขึ้น ความสามารถนี้ ทำให้ LLM สามารถเขียนข้อความได้ยาวเป็นย่อหน้า กระทั่งเขียนข้อความโต้ตอบได้แบบเต็มทั้งหน้า แต่ LLM ยังคงมีข้อจำกัดคือ LLM ไม่สามารถเข้าใจความเป็นมนุษย์หรือสิ่งที่มนุษย์ต้องการอย่างแท้จริงได้ 

ทั้งนี้ ChatGPT ยังคงต้องปรับปรุงตัวเองให้ทันสมัยด้วยการฝึกอบรมแบบ Reinforcement Learning with Human Feedback (RLHF) ซึ่งเป็นการฝึกอบรมอีกขั้นที่เหนือกว่าการฝึกอบรมทั่วไป  เขาฝึกอบรมด้วยการใช้ความคิดเห็นของมนุษย์เป็นตัวช่วยให้ ChatGPT เรียนรู้เพื่อให้สามารถปฏิบัติตามคำสั่ง หรือสร้างการตอบสนองที่น่าพอใจให้กับมนุษย์ได้


มหาวิทยาลัย Stanford ได้กล่าวว่า

 

GPT-3 มีพารามิเตอร์ 175 พันล้านพารามิเตอร์ ซึ่งถูกฝึกอบรมด้วยข้อความขนาด 570 กิกะไบต์ เมื่อเปรียบเทียบกับรุ่น GPT-2 ที่เป็นรุ่นก่อน ซึ่งมีขนาดเล็กกว่า 100 เท่าและมีพารามิเตอร์เพียง 1.5 พันล้านพารามิเตอร์ ด้วยขนาดที่เพิ่มขึ้นนี้ ทำให้โมเดล GPT-3 มีการเปลี่ยนแปลงพฤติกรรมไปอย่างมาก โดย GPT-3 สามารถทำงานได้ทั้งที่ยังไม่ได้รับการฝึกอบรม เหมือนกับการแปลประโยคภาษาอังกฤษเป็นภาษาฝรั่งเศสได้โดยที่ยังไม่ได้ฝึกฝนเลย พฤติกรรมนี้เป็นพฤติกรรมที่แทบจะไม่มีใน GPT-2 สำหรับบางงาน GPT-3 สามารถทำหน้าที่ได้ดีมาก แต่มีบางงานที่ GPT-3 ทำได้ไม่ดีมากนัก

 

ใครเป็นเจ้าของ ChatGPT

ChatGPT ถูกสร้างสรรค์ขึ้นโดยบริษัท OpenAI ตั้งอยู่ที่ San Francisco เป็นบริษัทที่มุ่งเน้นในการพัฒนาเกี่ยวกับปัญญาประดิษฐ์ (AI)  ทาง OpenAI ได้จับมือกับ Microsoft ในการพัฒนา Azure AI Platform ซึ่ง Microsoft เป็นทั้งหุ้นส่วนและผู้ลงทุนในมูลค่า 1 พันล้านดอลล่าร์สหรัฐ

CEO ของ OpenAI คือ Sam Altman ผู้ซึ่งเคยเป็นประธานของ Y Combinator บริษัท Open AI เป็นบริษัทแม่ที่ไม่แสวงหาผลกำไรของบริษัท OpenAI LP ที่เป็นบริษัทแสวงหาผลกำไร

OpenAI โด่งดังและเป็นที่รู้จักอย่างกว้างขวางมาจาก DALL·E ซึ่งเป็นโมเดลการเรียนรู้เชิงลึกที่สร้างรูปภาพจากคำสั่งข้อความที่เรียกว่า prompts

 

ปรากฏการณ์ของ ChatGPT


การฝึกอบรมของ ChatGPT เป็นอย่างไร

GPT-3.5 ถูกฝึกอบรมจากข้อมูลจำนวนมหาศาลที่เกี่ยวกับ Code และ ข้อมูลในอินเตอร์เน็ต รวมถึงแหล่งที่มาต่างๆ ยกตัวอย่างเช่น การสนทนาใน Reddit ที่ช่วย ChatGPT ในการเรียนรู้บทสนทนาและเข้าถึงการตอบสนองในแบบของมนุษย์

ChatGPT ยังได้รับการฝึกฝนด้วยการใช้ความคิดเห็นของมนุษย์ (Reinforcement Learning with Human Feedback: RLHF) เพื่อให้ AI เรียนรู้ถึงสิ่งที่มนุษย์คาดหวังไว้เมื่อพวกเขาถามคำถามต่างๆ กับ AI การฝึกอบรมโมเดลภาษาขนาดใหญ่ (Large Language Model: LLM) ด้วยวิธีนี้ เรียกว่าเป็นการปฏิวัติได้เลย เพราะมันคือการฝึกอบรมที่เหนือชั้นกว่าการฝึกทั่วไปเพื่อที่จะทำนายชุดคำถัดไป

เดือนมีนาคม 2022 ได้มีการเผยแพร่งานวิจัย เรื่องการฝึกอบรมโมเดลภาษาให้ปฏิบัติตามคำสั่งด้วยความคิดเห็นของมนุษย์ งานวิจัยนี้ได้อธิบายถึงสาเหตุที่ทำให้การฝึกอบรมด้วยวิธีนี้เป็นแนวทางที่ก้าวหน้า

 

งานวิจัยนี้ได้รับแรงบันดาลใจจากเป้าหมายที่เราต้องการเพิ่มกระแสเชิงบวกของโมเดลภาษาขนาดใหญ่ (LLM) ด้วยการฝึกอบรมพวกเขาให้ปฏิบัติตามสิ่งที่มนุษย์ต้องการให้เขาทำ สำหรับค่าเริ่มต้น (default) โมเดลภาษาจะปรับวัตถุประสงค์การทำนายชุดคำถัดไปให้เหมาะสม ซึ่งเป็นเพียง Proxy สำหรับสิ่งที่เราต้องการให้โมเดลทำ

ผลงานวิจัยนี้บ่งชี้ว่า เทคนิคนี้ทำให้โมเดลภาษามีประโยชน์มากขึ้น เป็นความจริงมากขึ้น และไม่เป็นอันตราย การสร้างโมเดลภาษาให้มีขนาดใหญ่ขึ้น ไม่ใช่การทำให้โมเดลภาษาสามารถทำตามที่ผู้ใช้งานต้องการได้ดีขึ้นเสมอไป ตัวอย่างเช่น โมเดลภาษาขนาดใหญ่ (LLM) สามารถสร้างผลลัพธ์ที่เป็นเท็จได้ เป็นอันตราย หรือไม่เป็นประโยชน์ต่อผู้ใช้งาน กล่าวอีกนัยหนึ่งคือ โมเดลเหล่านี้อาจไม่สอดคล้องกับผู้ใช้งาน

 

วิศวกรผู้สร้าง ChatGPT ได้ว่าจ้างผู้รับเหมาเพื่อประเมินผลลัพธ์ของระบบ GPT-3 และ InstructGPT ใหม่ ( InstructGPT เป็นโมเดลรุ่นพี่รุ่นน้องของ ChatGPT) โดยนักวิจัยได้ข้อสรุปดังต่อไปนี้

  • ผู้รับเหมาพอใจกับผลลัพธ์ของ InstructGPT มากกว่าผลลัพธ์ของ GPT-3
  • โมเดล InstructGPT มีการปรับปรุงด้านความจริงที่ดีกว่าโมเดล GPT-3
  • โมเดล InstructGPT มีการปรับปรุงเล็กน้อยในด้านความเป็นอันตรายเมื่อเทียบกับโมเดล GPT-3 แต่ไม่มี Bias


งานวิจัยมีการสรุปผลของโมเดล InstructGPT เป็นเชิงบวก แต่ก็ยังมีส่วนที่ต้องปรับปรุงแก้ไข

โดยภาพรวม ผลลัพธ์ของงานวิจัยนี้ได้แสดงให้เห็นว่า การปรับแต่งโมเดลภาษาขนาดใหญ่อย่างละเอียดตามความพึงพอใจของมนุษย์ ช่วยปรับปรุงพฤติกรรมของโมเดลให้สามารถทำงานได้หลากหลายมากขึ้นอย่างมีนัยสำคัญ แม้ว่ามีงานจำนวนไม่น้อยที่ยังต้องได้รับการปรับปรุงด้านความปลอดภัยและความน่าเชื่อถืออยู่

สิ่งที่ทำให้ ChatGPT แตกต่างจาก Chatbot อื่นๆ คือ ChatGPT ถูกฝึกอบรมให้เข้าใจเจตนาของมนุษย์ที่ตั้งคำถาม มีประโยชน์ เป็นความจริง และเป็นคำตอบที่ไม่เป็นอันตราย การฝึกอบรมดังกล่าว ChatGPT อาจท้าทายคำถามบางข้อ และอาจละทิ้งบางส่วนของคำถามที่ไม่สมเหตุสมผล

ในวงการงานวิจัยหรือวรรณกรรมทางวิทยาศาสตร์ ChatGPT ได้รับเครดิตในฐานะผู้เขียนร่วมในการเขียนบทประพันธ์ในเอกสารตีพิมพ์อย่างน้อย 4 บทความ แต่ก็ยังมีเหล่าบรรณาธิการวารสาร นักวิจัย และผู้จัดพิมพ์บางส่วน ที่กำลังถกเถียงกันเรื่องความเหมาะสมในการยกระดับให้ ChatGPT หรือเครื่องมือปัญญาประดิษฐ์ (AI) อื่นๆ เป็นนักเขียนบทความทางวิทยาศาสตร์ โดยเฉพาะอย่างยิ่ง มันทำให้เกิดคำถามเกี่ยวกับอนาคตของเรียงความของมหาวิทยาลัยและการผลิตงานวิจัย 

ผู้จัดพิมพ์และเซิร์ฟเวอร์เตรียมพิมพ์บางกลุ่ม ยอมรับว่า AI เช่น ChatGPT ไม่เป็นไปตามเกณฑ์สำหรับผู้เขียนบทความเกี่ยวกับการศึกษา เนื่องจากพวกเขาไม่สามารถรับผิดชอบต่อเนื้อหาและความสมบูรณ์ของเอกสารทางวิทยาศาสตร์ได้ แต่ผู้จัดพิมพ์บางรายก็กล่าวว่า การมีส่วนร่วมของ AI ในการเขียนเอกสารเกี่ยวกับการศึกษา สามารถรับรู้ได้ในส่วนอื่นที่นอกเหนือจากสิ่งที่ผู้เขียนสามารถทำได้

สุดยอดปรากฏการณ์ของ ChatGPT

นักเขียนประดิษฐ์ (Artificial Author)

ChatGPT เป็นหนึ่งในผู้เขียน 12 คนใน Preprint1 เกี่ยวกับการใช้เครื่องมือเพื่อการศึกษาทางการแพทย์ ซึ่งได้เผยแพร่อยู่บนคลังข้อมูลทางการแพทย์ชื่อ medRxiv ในเดือนธันวาคม 2022 แต่ทีมงานเบื้องหลังของคลังข้อมูลทางการแพทย์ medRxiv และคลัง bioRxiv ยังคงหารือกันเรื่องความเหมาะสมในการใช้และให้เครดิตกับเครื่องมือปัญญาประดิษฐ์  (AI) อย่างเช่น ChatGPT ในการเขียนงานเกี่ยวกับการศึกษา 

Richard Sever ผู้ช่วยผู้อำนวยการของ Cold Spring Harbor Laboratory press ในนิวยอร์กกล่าวว่า

เราต้องแยกแยะบทบาทที่เป็นทางการของผู้เขียนต้นฉบับทางวิชาการ ออกจากแนวคิดทั่วไปของผู้เขียนในฐานะผู้เขียนเอกสาร

ผู้เขียนมีหน้าที่ในการรับผิดชอบงานเขียนของตนเองทางกฎหมาย นั่นหมายความว่าผู้เขียนต้องเป็นบุคคลเท่านั้น

บทความในวารสาร Nurse Education in Practice ที่ตีพิมพ์ในเดือนมกราคม 2023 ได้ให้เครดิตแก่ AI ในฐานะผู้เขียนร่วม ซึ่งเขียนร่วมกับ Siobhan O’Connor นักวิจัยด้านเทคโนโลยีเกี่ยวกับสุขภาพที่มหาวิทยาลัยแมนเชสเตอร์ ประเทศอังกฤษ โดย Roger Watson ผู้เป็นหัวหน้ากองบรรณาธิการของวารสารกล่าวว่า เครดิตนี้หลุดออกไปด้วยความผิดพลาดและจะได้รับการแก้ไขในไม่ช้า เนื่องจากบรรณาธิการใช้ระบบการจัดการที่แตกต่างจากเอกสารการวิจัย

Alex Zhavoronkov ประธานเจ้าหน้าที่บริหารของ Insilico Medicine บริษัทในฮ่องกงที่ค้นพบยาจากการขับเคลื่อนด้วย AI เขาให้เครดิตกับ ChatGPT ในฐานะผู้ร่วมเขียนบทความ Perspective 3 ในวารสาร Oncoscience เมื่อเดือนธันวาคม 2022 เขากล่าวว่าบริษัทของเขาได้เผยแพร่เอกสารมากกว่า 80 ฉบับที่ผลิตโดยเครื่องมือ Generative AI “เราไม่ใช่บริษัทหน้าใหม่สำหรับวงการ AI” เขายังกล่าวอีกว่า เอกสารฉบับล่าสุดได้เล่าถึงข้อดีและข้อเสียของการใช้ยาราปามัยซิน (Rapamycin) ในบริบทของข้อโต้แย้งทางปรัชญาที่เรียกว่า Pascal’s wager เขายังชื่มชนด้วยว่า ChatGPT สามารถเขียนบทความได้ดีกว่าเครื่องมือ AI รุ่นก่อนๆ ที่ผ่านมา

อีกบทความที่เขียนร่วมกันโดย Chatbot รุ่นก่อนที่เรียกว่า GPT-3 และโพสต์อยู่บนเซิร์ฟเวอร์สิ่งพิมพ์ล่วงหน้าของฝรั่งเศส HAL ในเดือนมิถุนายน 2022 ผู้เขียนร่วมอย่าง Almira Osmanovic Thunström นักประสาทชีววิทยาแห่งโรงพยาบาลมหาวิทยาลัยแพทย์ Sahlgrenska ในเมืองโกเธนเบิร์ก ประเทศสวีเดน กล่าวว่า บทความนี้จะได้รับการเผยแพร่ในวารสารที่ผ่านการตรวจสอบเร็วๆ นี้ เธอให้ข้อมูลว่า วารสารฉบับหนึ่งตอบปฏิเสธเธอหลังจากตรวจสอบ แต่มีวารสารอีกฉบับหนึ่งที่ยอมรับบทความดังกล่าว และยังยอมรับ  GPT-3 ในฐานะผู้เขียน หลังจากที่เธอเรียบเรียงบทความใหม่ตามคำขอของผู้ตรวจสอบ

สุดยอดปรากฏการณ์ของ ChatGPT

 

นโยบายของผู้เผยแพร่

หัวหน้ากองบรรณาธิการของ Nature and Science กล่าวว่า ChatGPT ไม่เป็นไปตามมาตรฐานสำหรับการประพันธ์บทความ

Magdalena Skipper หัวหน้ากองบรรณาธิการของ Nature in London กล่าวว่า การระบุแหล่งที่มาของผู้ประพันธ์ถือเป็นความรับผิดชอบต่อผลงาน ซึ่งไม่สามารถนำไปใช้กับ LLM ได้อย่างมีประสิทธิภาพ ผู้เขียนที่ใช้ LLMs ในทางใดทางหนึ่งในการเขียนบทความ ควรบันทึกการใช้งานของพวกเขาในส่วนของวิธีการหรือกิตติกรรมประกาศตามความเหมาะสม 

Holden Thorp หัวหน้ากองบรรณาธิการเกี่ยวกับวารสารทางวิทยาศาสตร์ใน Washington DC กล่าวว่า เราจะไม่มีทางยอมรับ AI ในฐานะของผู้เขียนบทความที่เราเป็นผู้เผยแพร่โดยเด็ดขาด การใช้ข้อความที่สร้างขึ้นจาก AI โดยปราศจากการอ้างอิงที่เหมาะสม อาจนับเป็นการลอกเลียนแบบ

Sabina Alam ผู้อำนวยการฝ่ายจริยธรรมและความซื่อสัตย์ของสำนักพิมพ์ Taylor & Francis ในลอนดอน กล่าวว่า สำนักพิมพ์กำลังตรวจสอบนโยบายของตนเอง เธอเห็นด้วยที่ว่าผู้เขียนมีหน้าที่ในการรับผิดชอบต่อความถูกต้องและความสมบูรณ์ของงานตนเองและควรอ้างถึงการใช้ LLM ในส่วนที่เป็นการตอบรับ Taylor & Francis ยังไม่ได้รับการข้อความใดๆ ที่เป็นการให้เครดิต ChatGPT ในฐานะผู้เขียนร่วม

ผู้อำนวยการด้านวิทยาศาสตร์ Steinn Sigurdsson นักดาราศาสตร์จาก Pennsylvania State University ใน University Park กล่าวว่า คณะกรรมการของเซิร์ฟเวอร์ preฺฑprint ด้านวิทยาศาสตร์กายภาพชื่อ arXiv ได้มีการหารือกันเป็นการภายในและกำลังเริ่มหาแนวทางการใช้ Generative AI  เขาเห็นว่าเครื่องมือซอฟต์แวร์ไม่สามารถเป็นผู้เขียนผลงานได้ ส่วนหนึ่งเป็นเพราะเครื่องมือดังกล่าวไม่สามารถยอมรับเงื่อนไขการใช้งานและสิทธิ์ในการเผยแพร่เนื้อหาได้

 

สุดยอดปรากฏการณ์ของ ChatGPT

ChatGPT มีข้อจำกัดอย่างไร และใช้งานได้จริงหรือไม่

1. ข้อจำกัดในการตอบโต้ที่เป็นอันตราย

 ChatGPT ถูกตั้งค่าแบบพิเศษ ไม่ให้โต้ตอบข้อมูลที่เป็นอันตราย ดังนั้น ChatGPT จะเลี่ยงการตอบคำถามที่มีลักษณะเป็นอันตราย 

2. คุณภาพของคำตอบขึ้นอยู่กับคุณภาพของทิศทาง

ข้อจำกัดสำคัญของ ChatGPT คือคุณภาพของผลลัพธ์ที่ขึ้นอยู่กับคุณภาพของคำถาม

3. คำตอบอาจไม่ถูกต้องเสมอไป

เนื่องจาก ChatGPT ได้รับการฝึกฝนให้ตอบคำถามที่มนุษย์รู้สึกว่าถูกต้อง คำตอบนั้นอาจจะหลอกมนุษย์ว่าผลลัพธ์นั้นถูกต้อง มีผู้ใช้งานหลายคนพบว่า ChatGPT อาจให้คำตอบที่ไม่ถูกต้อง ทำให้เกิดความเข้าใจผิดและอาจมีการแชร์ข้อมูลผิดๆต่อกันไปอย่างแพร่หลาย

4. ChatGPT มีข้อมูลถึงแค่ปี 2021 เท่านั้น

ดังนั้นการค้นหาหรือคำถามบางอย่าง ChatGPT จะไม่สามารถตอบได้

5. คำตอบภาษาไทย 

ChatGPT จะใช้เวลาในการตอบเป็นภาษาไทยมากกว่าภาษาอังกฤษ และอาจหยุดการตอบไปเอง และอาจมีการเรียบเรียงประโยคหรือคำที่ไม่ถูกต้องนัก

Microsoft ประกาศว่า จะนำ ChatGPT มาไว้ใน Bing ซึ่งเป็น Search Engine ที่ได้รับความนิยมมากเป็นอันดับ 2 ของโลก โดยไม่ใช่แค่เพียงการหาเว๊บไซต์ ข่าว รูป วิดีโอทั่วไป แต่จะเป็นการตอบสนองในรูปแบบ Dialogue ราวกับได้พูดคุยกับผู็เชี่ยวชาญใน้านนั้นๆ โดยตรง

ทั้งนี้ ChatGPT ยังคงต้องได้รับการพัฒนาต่อไป พวกเราคงได้ตื่นตาตื่นใจกันอีกครั้งหากว่า ChatGPT นั้น สามารถโต้ตอบบทสนทนากับมนุษย์ได้อย่างมีความเป็นมนุษย์มากขึ้น เป็นข้อมูลที่ถูกต้อง แม่นยำและไม่เป็นอันตราย

 

เมื่อต้นเดือนกุมภาพันธ์ 2023 ที่ผ่านมา เจ้าเทคโนโลยียักษ์ใหญ่อย่าง Google ผู้ซึ่งเป็นผู้นำแถวหน้าของการวิจัย AI ได้เปิดตัว Bard AI Chatbot ออกมาสู่โลก เปิดศึก AI Chatbot เพื่อมาสู้กับ ChatGPT ที่สร้างปรากฎการณ์ยอดดาวน์โหลดถล่มทลายไปก่อนหน้านี้

Bard AI Chatbot ถูกสร้างขึ้นจากเทคโนโลยีที่เรียกว่า Language Model for Dialogue Applications (LaMDA) เพื่อเป็นตัวค้นหาและรวบรวมข้อมูลจากฐานข้อมูลขนาดใหญ่บนโลกอินเตอร์เน็ต รวมถึงสังเคราะห์ข้อมูลสำหรับคำถามที่ไม่มีคำตอบที่แน่นอน และยิ่งเมื่อรวมกับ Search Engine หรือโปรแกรมค้นหาเดิมแล้ว จะยิ่งได้เห็นประสิทธิภาพในเชิงลึกที่ทรงพลังมากขึ้น Bard มีความสามารถในการค้นหาและตอบคำถามได้แบบ Real-Time ในขณะที่ ChatGPT สามารถโต้ตอบได้จากข้อมูลที่เกิดขึ้นก่อนปี 2021 เท่านั้น และวิศวกรจำนวนหนึ่งเชื่อมั่นว่า การตอบสนองของ Bard นั้นมีความเป็นมนุษย์และมีความรู้สึก อีกไม่นาน Google จะประกาศเปิดให้บุคคลทั่วไปสามารถดาวน์โหลดมาใช้งานกันได้อย่างแพร่หลาย แล้วเราจะมาทำความรู้จักกับ Bard AI Chatbot ในบทความถัดไป

สุดยอดปรากฏการณ์ของ ChatGPT

Credit : https://www.hitc.com/en-gb/2022/12/07/who-owns-openai-chatgpt-and-when-did-it-launch/

Credit : https://www.searchenginejournal.com/what-is-chatgpt/473664/#close

Credit : https://www.nature.com/articles/d41586-023-00107-z

 

TECHSCAPE
SCAPE OF ..THE FUTURE..